GPUが死んでいますか？
NVIDIA K20m（ノードのデバイス0）でECCメモリ保護を一時的に無効にしましたが、再び動作させることができなくなりました。それ以前は、ECCを有効にして正しく動作していました。だから、これが私がしたことです：私はECCを無効にしました
nvidia-smi -i 0 --ecc-config=0
そして再起動しました。それが現れたとき、それは100％のGPU使用率を示し、カーネルを起動しませんでした（実際にはコンテキストの作成時にすでに失敗していました）。その理由はダブルビットエラーでした。でリセットしました
nvidia-smi -i 0 --reset-ecc-errors=0
そしてノードを再起動しました。再起動後、デバイスの使用率は0％で、通常どおりジョブを開始できました。数時間後、デバイスは再び100％のGPU使用率を示しました。今回は、ダブルビットエラーは報告されませんでした（シングルビットエラーも報告されませんでした）。ただし、ジョブを実行できなかったため、ノードを再起動し、GPUの使用率が100％になったため、使用できませんが、ビットエラーは報告されません。これはどうしたの？
GPU 0000:02:00.0
Product Name : Tesla K20m
Display Mode : Disabled
Persistence Mode : Enabled
Driver Model
Current : N/A
Pending : N/A
Serial Number : 0324512044699
GPU UUID : GPU-9bfe1aba-1628-a406-3ed5-2af49462a997
VBIOS Version : 80.10.11.00.0B
Inforom Version
Image Version : 2081.0208.01.07
OEM Object : 1.1
ECC Object : 3.0
Power Management Object : N/A
GPU Operation Mode
Current : Compute
Pending : Compute
PCI
Bus : 0x02
Device : 0x00
Domain : 0x0000
Device Id : 0x102810DE
Bus Id : 0000:02:00.0
Sub System Id : 0x101510DE
GPU Link Info
PCIe Generation
Max : 2
Current : 2
Link Width
Max : 16x
Current : 16x
Fan Speed : N/A
Performance State : P0
Clocks Throttle Reasons
Idle : Not Active
User Defined Clocks : Not Active
SW Power Cap : Not Active
HW Slowdown : Not Active
Unknown : Not Active
Memory Usage
Total : 4799 MB
Used : 12 MB
Free : 4787 MB
Compute Mode : Default
Utilization
Gpu : 100 %
Memory : 0 %
Ecc Mode
Current : Enabled
Pending : Enabled
ECC Errors
Volatile
Single Bit
Device Memory : 0
Register File : 0
L1 Cache : 0
L2 Cache : 0
Texture Memory : 0
Total : 0
Double Bit
Device Memory : 0
Register File : 0
L1 Cache : 0
L2 Cache : 0
Texture Memory : 0
Total : 0
Aggregate
Single Bit
Device Memory : 0
Register File : 0
L1 Cache : 0
L2 Cache : 0
Texture Memory : 0
Total : 0
Double Bit
Device Memory : 0
Register File : 0
L1 Cache : 0
L2 Cache : 0
Texture Memory : 0
Total : 0
Temperature
Gpu : 30 C
Power Readings
Power Management : Supported
Power Draw : 49.51 W
Power Limit : 225.00 W
Default Power Limit : 225.00 W
Min Power Limit : 150.00 W
Max Power Limit : 225.00 W
Clocks
Graphics : 758 MHz
SM : 758 MHz
Memory : 2600 MHz
Applications Clocks
Graphics : 705 MHz
Memory : 2600 MHz
Max Clocks
Graphics : 758 MHz
SM : 758 MHz
Memory : 2600 MHz
Compute Processes : None
私のGPUは死んでいますか？
私はそれがすでに死んでいると言います。それらを検出するものをオフにしたため、レポートビットエラーではなくなりました。 （ECCは、修正できる以上にを検出します。）ただし、障害が発生したのは、カード（または物理カード自体）のメモリである可能性があります。
「ごみ箱」に入れる前に、冷却と電源の2つの容疑者がいます。冷却は簡単に確認できます。パワー、それほどではありません。