web-dev-qa-db-ja.com

フォルダとサブフォルダ内のすべてのファイルを読み取ります-進行状況とサイズ

私が持っているコマンドは次のとおりです。

time find . -type f -print -exec cp {} /dev/null \;

このコマンドは、現在のフォルダーとサブフォルダー内のすべてのファイルを検索し、各ファイルの名前を出力して、それぞれを/ dev/nullにコピーします。最後に、すべてのファイルをコピーするのにかかった時間を示します。

必要なのは、最後にコピーされたすべてのバイトをカウント（表示）する（つまり、読み取り速度を計算できるようにする//キャッシュは重要ではない//）、および/または名前の横に各ファイルのサイズを表示することです。

各ファイル（pv）の進行状況を表示する可能性がある場合、それは素晴らしいことです！

この目的のために、私はCygwinとbash Shellを使用していますが、スクリプトは実際のLinuxシステムでも機能するはずです。

EDIT：アイデアは、ファイルをコピーするのではなく、読み取ることです（rsync）。

bashshell-scriptfilesrecursivebenchmark
4
pbies

私があなたの質問を完全に理解しているかどうかはわかりませんが、どうですか？

find . -type f -exec pv -N {} {} \; > /dev/null

次のような出力を提供します。

  ./file1:  575kB 0:00:00 [1.71GB/s] [=======================>] 100%
  ./file2: 15.2GB 0:00:07 [2.22GB/s] [==>                      ] 15% ETA 0:00:38
6
Stéphane Chazelas

次に、このタスクにcpとfindを使用するのではなく、代わりにrsyncを使用することを検討してください。

例

$ time rsync -avvz -O --stats --checksum --human-readable \
    --acls --itemize-changes --progress \
    --out-format='[%t] [%i] (Last Modified: %M) (bytes: %-10l) %-100n' \
    "<fromDir>" "<toDir>" | tee /path/to/log.txt

例

これにより、次のようなレポートが生成されます。

コマンド

$ time rsync -avvz -O --stats --checksum --human-readable --acls --itemize-changes --progress --out-format='[%t] [%i] (Last Modified: %M) (bytes: %-10l) %-100n' "How_to_Write_Shared_Libraries" "/home/saml/newdir/." | tee ~/rsync.txt

転送された各ファイルの詳細

sending incremental file list
delta-transmission disabled for local transfer or --whole-file
[2014/05/31 15:12:34] [cd+++++++++] (Last Modified: 2014/02/21-15:42:44) (bytes: 4096      ) How_to_Write_Shared_Libraries/                                                                      
[2014/05/31 15:12:34] [>f+++++++++] (Last Modified: 2013/12/06-19:59:22) (bytes: 766590    ) How_to_Write_Shared_Libraries/dsohowto.pdf                                                          
     766.59K 100%   20.00MB/s    0:00:00 (xfer#1, to-check=1/3)
[2014/05/31 15:12:34] [>f+++++++++] (Last Modified: 2014/02/21-15:42:44) (bytes: 44        ) How_to_Write_Shared_Libraries/url.txt                                                               
          44 100%    1.23kB/s    0:00:00 (xfer#2, to-check=0/3)
total: matches=0  hash_hits=0  false_alarms=0 data=766634

転送全体に関する統計

rsync[5923] (sender) heap statistics:
  arena:        1073152   (bytes from sbrk)
  ordblks:            5   (chunks not in use)
  smblks:             1
  hblks:              2   (chunks from mmap)
  hblkhd:        401408   (bytes from mmap)
  allmem:       1474560   (bytes from sbrk + mmap)
  usmblks:            0
  fsmblks:           96
  uordblks:      410512   (bytes used)
  fordblks:      662640   (bytes free)
  keepcost:      396928   (bytes in releasable chunk)

rsync[5926] (server receiver) heap statistics:
  arena:         286720   (bytes from sbrk)
  ordblks:            2   (chunks not in use)
  smblks:             5
  hblks:              3   (chunks from mmap)
  hblkhd:        667648   (bytes from mmap)
  allmem:        954368   (bytes from sbrk + mmap)
  usmblks:            0
  fsmblks:          384
  uordblks:      180208   (bytes used)
  fordblks:      106512   (bytes free)
  keepcost:      102336   (bytes in releasable chunk)

rsync[5925] (server generator) heap statistics:
  arena:         135168   (bytes from sbrk)
  ordblks:            2   (chunks not in use)
  smblks:             6
  hblks:              2   (chunks from mmap)
  hblkhd:        401408   (bytes from mmap)
  allmem:        536576   (bytes from sbrk + mmap)
  usmblks:            0
  fsmblks:          464
  uordblks:       88688   (bytes used)
  fordblks:       46480   (bytes free)
  keepcost:       32800   (bytes in releasable chunk)

転送の要約統計量

Number of files: 3
Number of files transferred: 2
Total file size: 766.63K bytes
Total transferred file size: 766.63K bytes
Literal data: 766.63K bytes
Matched data: 0 bytes
File list size: 143
File list generation time: 0.001 seconds
File list transfer time: 0.000 seconds
Total bytes sent: 667.27K
Total bytes received: 54

sent 667.27K bytes  received 54 bytes  1.33M bytes/sec
total size is 766.63K  speedup is 1.15

かかった時間

real    0m0.092s
user    0m0.053s
sys     0m0.008s
0
slm