このコントローラー、ファイルシステム、およびディスクのセットアップを使用して、いくつかのファイルサーバーを実行しています。
それらはすべて書き込みパフォーマンスの低下に悩まされています。256MBのBBU書き込みキャッシュがいっぱいになると、非常に高いiowait(> 40)が発生し、書き込み速度が数MB /秒に低下します。
書き込み中にサーバーで中程度から重い読み取りが発生すると、さらに悪化します。
書き込みパフォーマンスを向上させるためにコントローラーまたはファイルシステムを微調整する方法についての提案を探しています。
RAIDアレイとコントローラーに関するいくつかのデータ:
RAID Level: Primary-5, Secondary-0, RAID Level Qualifier-3
Size:5.456 TB
State: Optimal
Stripe Size: 64 KB
Number Of Drives:4
Span Depth:1
Default Cache Policy: WriteBack, ReadAdaptive, Cached, No Write Cache if Bad BBU
Current Cache Policy: WriteBack, ReadAdaptive, Cached, No Write Cache if Bad BBU
Access Policy: Read/Write
Disk Cache Policy: Enabled
Encryption Type: None
Product Name : PERC 6/i Integrated
FW Version : 1.22.12-0952
BIOS Version : 2.04.00
ファイルシステムに関するデータ:
Filesystem features: has_journal ext_attr resize_inode dir_index filetype needs_recovery extent flex_bg sparse_super large_file huge_file uninit_bg dir_nlink extra_isize
デフォルトのマウントオプションが使用され、ファイルシステムはmkfs.ext4コマンドのデフォルトオプションを使用して作成されました。
編集:
私のユースケースを説明するために、これらのサーバーが何をしているのかを説明します
lighttpdを介して40〜80 MB/sでファイルを提供しており、新しいファイルはftpを介してサーバーに定期的にダウンロードされています。
ファイルは800MBから6GBの間です。
ファイルの提供は、目立ったIOWaitがなくてもうまく機能しますが、ftp転送が開始されて新しいファイルを取得するたびに、本当に苦労していることがわかります。
要求に応じて、bonnie ++の出力は次のとおりです。
Version 1.96 ------Sequential Output------ --Sequential Input- --Random-
Concurrency 1 -Per Chr- --Block-- -Rewrite- -Per Chr- --Block-- --Seeks--
Machine Size K/sec %CP K/sec %CP K/sec %CP K/sec %CP K/sec %CP /sec %CP
XXXXXXX 8G 580 99 94284 14 61903 9 2853 83 189033 11 420.5 8
Latency 14004us 825ms 1548ms 105ms 202ms 98036us
Version 1.96 ------Sequential Create------ --------Random Create--------
XXXXXXX -Create-- --Read--- -Delete-- -Create-- --Read--- -Delete--
files /sec %CP /sec %CP /sec %CP /sec %CP /sec %CP /sec %CP
5 +++++ +++ +++++ +++ +++++ +++ +++++ +++ +++++ +++ +++++ +++
Latency 406us 535us 598us 374us 21us 60us
使用中のディスクは、すべてのサーバーでD-WMAY03176700WDCWD2002FAEX-007BA0です。
いくつかのランダムなポイント:
-n 1024
を使用してbonnie ++を再度実行すると、5ではなく1024のファイルが作成されます。これらすべての+++は、5つのファイルの作成、読み取り、削除が速すぎて、比較する数値が得られないことを意味します。 pQdによって上記で提案されたどの最適化が役立つかを知っているかもしれません