web-dev-qa-db-ja.com

AWS ec2 GPUインスタンスでのGPUの使用状況を確認するにはどうすればよいですか？

AWS ec2でubuntu gpuインスタンスを実行しています。アプリケーションがGPUアクセラレーションを使用しているかどうかはわかりません。では、aws gpuインスタンスでgpuの使用状況を確認する方法は？

amazon-ec2monitoringcpu-usage
6
aplrh

  • 使用する： nvidia-smi -hオプションを表示します。

  • 情報引数の表示：

Display only selected information: MEMORY,
                                    UTILIZATION, ECC, TEMPERATURE, POWER, CLOCK,
                                    COMPUTE, PIDS, PERFORMANCE, SUPPORTED_CLOCKS,
                                    PAGE_RETIREMENT, ACCOUNTING, ENCODER STATS

  • 例：nvidia-smi -i 0 -l -q -d UTILIZATION

  • 出力は次のようになります。

==============NVSMI LOG==============

Timestamp                           : Thu Apr 11 03:48:37 2019
Driver Version                      : 384.183
CUDA Version                        : 9.0

Attached GPUs                       : 1
GPU 00000000:00:1E.0
    Utilization
        **Gpu                         : 9 %**
        Memory                      : 11 %
        Encoder                     : 0 %
        Decoder                     : 0 %
    GPU Utilization Samples
        Duration                    : 18446744073709.22 sec
        Number of Samples           : 99
        Max                         : 10 %
        Min                         : 0 %
        Avg                         : 0 %
    Memory Utilization Samples
        Duration                    : 18446744073709.22 sec
        Number of Samples           : 99
        Max                         : 14 %
        Min                         : 0 %
        Avg                         : 0 %
    ENC Utilization Samples
        Duration                    : 18446744073709.22 sec
        Number of Samples           : 99
        Max                         : 0 %
        Min                         : 0 %
        Avg                         : 0 %
    DEC Utilization Samples
        Duration                    : 18446744073709.22 sec
        Number of Samples           : 99
        Max                         : 0 %
        Min                         : 0 %
        Avg                         : 0 %
4
Tung Le

これはNVIDIAギアですか？その場合は、nvidia-smi -i 3 -l -q -dを試して、GPUとメモリ使用率の統計（他の情報の中でも）を確認してください。これは、1）古いnvidiaドライバー（18X.XX）、または2）NVIDIA TeslaGPUでのみ機能することに注意してください。

3
the-wabbit