web-dev-qa-db-ja.com

エラー:形状のあるテンソルを割り当てるときのOOM

apache JMeterでのパフォーマンステスト中に、開始モデルの問題に直面しています。

エラー:形状[800,1280,3]でテンソルを割り当て、アロケーターGPU_0_bfcで/ job:localhost/replica:0/task:0/device:GPU:0にfloatと入力するとOOMが発生します[[ノード:Cast = CastDstT = DT_FLOAT、 SrcT = DT_UINT8、_device = "/ job:localhost/replica:0/task:0/device:GPU:0"]]ヒント:OOMが発生したときに割り当てられたテンソルのリストを表示するには、現在のRunOptionsにreport_tensor_allocations_upon_oomを追加します割り当て情報。

7
Mohd Daoud

手元に複数のGPUSがある場合は、これほどビジーでないGPUを親切に選択してください(考えられる理由は、他のプロセスもこのGPUで実行されていることです)。端末に移動して入力

export CUDA_VISIBLE_DEVICES=1 

ここで、1は使用可能な他のGPUの数です。同じコードを再実行します。

使用可能なGPUを使用して確認できます

nvidia-smi 

これにより、使用可能なGPUと、それぞれに使用可能なメモリ量が表示されます

0
Priyank Pathak