AWS ec2でubuntu gpuインスタンスを実行しています。アプリケーションがGPUアクセラレーションを使用しているかどうかはわかりません。では、aws gpuインスタンスでgpuの使用状況を確認する方法は?
使用する: nvidia-smi -h
オプションを表示します。
情報引数の表示:
Display only selected information: MEMORY,
UTILIZATION, ECC, TEMPERATURE, POWER, CLOCK,
COMPUTE, PIDS, PERFORMANCE, SUPPORTED_CLOCKS,
PAGE_RETIREMENT, ACCOUNTING, ENCODER STATS
例:nvidia-smi -i 0 -l -q -d UTILIZATION
出力は次のようになります。
==============NVSMI LOG==============
Timestamp : Thu Apr 11 03:48:37 2019
Driver Version : 384.183
CUDA Version : 9.0
Attached GPUs : 1
GPU 00000000:00:1E.0
Utilization
**Gpu : 9 %**
Memory : 11 %
Encoder : 0 %
Decoder : 0 %
GPU Utilization Samples
Duration : 18446744073709.22 sec
Number of Samples : 99
Max : 10 %
Min : 0 %
Avg : 0 %
Memory Utilization Samples
Duration : 18446744073709.22 sec
Number of Samples : 99
Max : 14 %
Min : 0 %
Avg : 0 %
ENC Utilization Samples
Duration : 18446744073709.22 sec
Number of Samples : 99
Max : 0 %
Min : 0 %
Avg : 0 %
DEC Utilization Samples
Duration : 18446744073709.22 sec
Number of Samples : 99
Max : 0 %
Min : 0 %
Avg : 0 %
これはNVIDIAギアですか?その場合は、nvidia-smi -i 3 -l -q -d
を試して、GPUとメモリ使用率の統計(他の情報の中でも)を確認してください。これは、1)古いnvidiaドライバー(18X.XX)、または2)NVIDIA TeslaGPUでのみ機能することに注意してください。