web-dev-qa-db-ja.com

PERC 6 / i | ext4 | raid5 | 4ディスク-書き込みパフォーマンスを向上

このコントローラー、ファイルシステム、およびディスクのセットアップを使用して、いくつかのファイルサーバーを実行しています。

それらはすべて書き込みパフォーマンスの低下に悩まされています。256MBのBBU書き込みキャッシュがいっぱいになると、非常に高いiowait(> 40)が発生し、書き込み速度が数MB /秒に低下します。
書き込み中にサーバーで中程度から重い読み取りが発生すると、さらに悪化します。

書き込みパフォーマンスを向上させるためにコントローラーまたはファイルシステムを微調整する方法についての提案を探しています。

RAIDアレイとコントローラーに関するいくつかのデータ:

RAID Level: Primary-5, Secondary-0, RAID Level Qualifier-3
Size:5.456 TB
State: Optimal
Stripe Size: 64 KB
Number Of Drives:4
Span Depth:1
Default Cache Policy: WriteBack, ReadAdaptive, Cached, No Write Cache if Bad BBU
Current Cache Policy: WriteBack, ReadAdaptive, Cached, No Write Cache if Bad BBU
Access Policy: Read/Write
Disk Cache Policy: Enabled
Encryption Type: None

Product Name    : PERC 6/i Integrated
FW Version         : 1.22.12-0952
BIOS Version       : 2.04.00

ファイルシステムに関するデータ:

Filesystem features:      has_journal ext_attr resize_inode dir_index filetype needs_recovery extent flex_bg sparse_super large_file huge_file uninit_bg dir_nlink extra_isize

デフォルトのマウントオプションが使用され、ファイルシステムはmkfs.ext4コマンドのデフォルトオプションを使用して作成されました。

編集:
私のユースケースを説明するために、これらのサーバーが何をしているのかを説明します
lighttpdを介して40〜80 MB/sでファイルを提供しており、新しいファイルはftpを介してサーバーに定期的にダウンロードされています。
ファイルは800MBから6GBの間です。
ファイルの提供は、目立ったIOWaitがなくてもうまく機能しますが、ftp転送が開始されて新しいファイルを取得するたびに、本当に苦労していることがわかります。

要求に応じて、bonnie ++の出力は次のとおりです。

Version  1.96       ------Sequential Output------ --Sequential Input- --Random-
Concurrency   1     -Per Chr- --Block-- -Rewrite- -Per Chr- --Block-- --Seeks--
Machine        Size K/sec %CP K/sec %CP K/sec %CP K/sec %CP K/sec %CP  /sec %CP
XXXXXXX          8G   580  99 94284  14 61903   9  2853  83 189033  11 420.5   8
Latency             14004us     825ms    1548ms     105ms     202ms   98036us
Version  1.96       ------Sequential Create------ --------Random Create--------
XXXXXXX             -Create-- --Read--- -Delete-- -Create-- --Read--- -Delete--
              files  /sec %CP  /sec %CP  /sec %CP  /sec %CP  /sec %CP  /sec %CP
                  5 +++++ +++ +++++ +++ +++++ +++ +++++ +++ +++++ +++ +++++ +++
Latency               406us     535us     598us     374us      21us      60us

使用中のディスクは、すべてのサーバーでD-WMAY03176700WDCWD2002FAEX-007BA0です。

5
Niko S P

いくつかのランダムなポイント:

  • rAID10に移動します[プロセスでデータが失われます]
  • fstabの noatime オプションを使用してすべての「ビジー」ファイルシステムをマウントします
  • さまざまな実験 ioスケジューラー -自分に最適なものを確認してください
  • ドライブは大きく見えます-おそらく512Bではなく4KBの物理セクターがあります-パーティションがディスクとRAIDストライプの境界に位置合わせされていることを確認してください[ 12 =;その過程でデータが失われます]
  • ioバッファに使用されるRAMがたくさんあると思います。そうであれば、PERC/6iキャッシュを書き込み専用に再構成し、先読みはしないでください。
  • ベンチマークの書き込み速度をもう一度-Xだとしましょう。スロットルアップロードなど。 Xの60%は、読み取り用に「スペア」IOを残します。
4
pQd

-n 1024を使用してbonnie ++を再度実行すると、5ではなく1024のファイルが作成されます。これらすべての+++は、5つのファイルの作成、読み取り、削除が速すぎて、比較する数値が得られないことを意味します。 pQdによって上記で提案されたどの最適化が役立つかを知っているかもしれません

0
Ravnos