web-dev-qa-db-ja.com

AWS ec2 GPUインスタンスでのGPUの使用状況を確認するにはどうすればよいですか?

AWS ec2でubuntu gpuインスタンスを実行しています。アプリケーションがGPUアクセラレーションを使用しているかどうかはわかりません。では、aws gpuインスタンスでgpuの使用状況を確認する方法は?

6
aplrh
  • 使用する: nvidia-smi -hオプションを表示します。

  • 情報引数の表示:

Display only selected information: MEMORY,
                                    UTILIZATION, ECC, TEMPERATURE, POWER, CLOCK,
                                    COMPUTE, PIDS, PERFORMANCE, SUPPORTED_CLOCKS,
                                    PAGE_RETIREMENT, ACCOUNTING, ENCODER STATS 
  • 例:nvidia-smi -i 0 -l -q -d UTILIZATION

  • 出力は次のようになります。

==============NVSMI LOG==============

Timestamp                           : Thu Apr 11 03:48:37 2019
Driver Version                      : 384.183
CUDA Version                        : 9.0

Attached GPUs                       : 1
GPU 00000000:00:1E.0
    Utilization
        **Gpu                         : 9 %**
        Memory                      : 11 %
        Encoder                     : 0 %
        Decoder                     : 0 %
    GPU Utilization Samples
        Duration                    : 18446744073709.22 sec
        Number of Samples           : 99
        Max                         : 10 %
        Min                         : 0 %
        Avg                         : 0 %
    Memory Utilization Samples
        Duration                    : 18446744073709.22 sec
        Number of Samples           : 99
        Max                         : 14 %
        Min                         : 0 %
        Avg                         : 0 %
    ENC Utilization Samples
        Duration                    : 18446744073709.22 sec
        Number of Samples           : 99
        Max                         : 0 %
        Min                         : 0 %
        Avg                         : 0 %
    DEC Utilization Samples
        Duration                    : 18446744073709.22 sec
        Number of Samples           : 99
        Max                         : 0 %
        Min                         : 0 %
        Avg                         : 0 %

4
Tung Le

これはNVIDIAギアですか?その場合は、nvidia-smi -i 3 -l -q -dを試して、GPUとメモリ使用率の統計(他の情報の中でも)を確認してください。これは、1)古いnvidiaドライバー(18X.XX)、または2)NVIDIA TeslaGPUでのみ機能することに注意してください。

3
the-wabbit