web-dev-qa-db-ja.com

caffeで*データのプリフェッチを最初から再開する*とはどういう意味ですか

私はログ出力を読んでいます最初からデータのプリフェッチを再開します。どうやら、それは人が十分なデータを持っておらず、データが最初からプリフェッチ*されていることを意味します。ただし、私のデータセットには10​​.000のデータサンプルがあり、バッチサイズは4です。バッチサイズが4であるため、データをプリフェッチする必要があるのはなぜですか。つまり、反復ごとに4つのデータサンプルが必要になります。誰かが私の理解を明確にすることができますか?

ログ:

I0409 20:33:35.053406 20072 data_layer.cpp:73] Restarting data prefetching from start.
I0409 20:33:35.053447 20074 data_layer.cpp:73] Restarting data prefetching from start.
I0409 20:33:40.320605 20074 data_layer.cpp:73] Restarting data prefetching from start.
I0409 20:33:40.320598 20072 data_layer.cpp:73] Restarting data prefetching from start.
I0409 20:33:45.591019 20072 data_layer.cpp:73] Restarting data prefetching from start.
I0409 20:33:45.591047 20074 data_layer.cpp:73] Restarting data prefetching from start.
I0409 20:33:49.392580 20034 solver.cpp:398]     Test net output #0: loss = nan (* 1 = nan loss)
I0409 20:33:49.780678 20034 solver.cpp:219] Iteration 0 (-4.2039e-45 iter/s, 20.1106s/100 iters), loss = 54.0694
I0409 20:33:49.780731 20034 solver.cpp:238]     Train net output #0: loss = 54.0694 (* 1 = 54.0694 loss)
I0409 20:33:49.780750 20034 sgd_solver.cpp:105] Iteration 0, lr = 0.0001
I0409 20:34:18.812854 20034 solver.cpp:219] Iteration 100 (3.44442 iter/s, 29.0325s/100 iters), loss = 21.996
I0409 20:34:18.813213 20034 solver.cpp:238]     Train net output #0: loss = 21.996 (* 1 = 21.996 loss)
8
user4911648

10,000個のサンプルがあり、それらをサイズ4のバッチで処理する場合、10,000/4 = 2,500回の反復の後、すべてのデータを処理し、caffeは最初からデータの読み取りをやり直します。
BTW、すべてのサンプルを1回確認することは、「エポック」とも呼ばれます。

すべてのエポックカフェがログに印刷された後

データのプリフェッチを最初から再開する

6
Shai