GPUが正常に動作しているか

Question

質問したいこと

現在keras-yolo3でgpuを用いて学習を行っているのですが、
上の画像では専用メモリが使用されているのに対して、下の画像ではgpuがほぼ使用されていません。どちらも学習中にスクリーンショットした画像です。
以前CPUのみで学習をしていた時より学習速度は速くなっているのですが、これは正しくGPUが使用されているのでしょうか。

Answer 1

以前CPUのみで学習をしていた時より学習速度は速くなっている

うまくGPUが使えているともいます。数十倍くらいは高速になっているのではないでしょうか？
心配であれば、学習時にGPUを無効にするようなオプションを使って比較すると良いと思います。

画像ではgpuがほぼ使用されていません

専用GPUメモリ：グラフィックカード搭載のGPU専用のメモリ
共有GPUメモリ：専用GPUメモリがいっぱいになった時にシステムから借りる分のメモリ（メインメモリから割り当て）

と理解しています。これでも溢れたときにはスワップ領域（HDDやSSD）が使われるはずです。
画像を見る限り、専用GPUメモリに全て乗っかっているために共有GPUメモリが使われていないものと思います。

Comments

[shocora]

回答ありがとうございます。
アドバイス通りGPUを無効化して実行してみたら実行時間が約2倍遅くなりました。
私の環境はCPUがRyzen7 3700X メモリが16GB、GPUがRTX2060Super VRAM:8GBなのですが、これはGPUの性能を最大限引き出せているのでしょうか。それともCPUの性能がある程度高いので学習速度の差があまり出ていないということなのでしょうか。

[退会済みユーザー]

> CPUの性能がある程度高いので学習速度の差があまり出ていないということなのでしょうか。
なんと潤沢な;_;
へぼいCPUであればへぼいCPUであるほどGPUとの差が大きくなります。ですので、恐らくCPUが強烈すぎる（コア数が多いため？）かNNのモデルが軽いかで影響が少なくなっているのだと思います。

[shocora]

ありがとうございます。疑問だったことが解消できました。