Q&A
AIの学習にgpuが使われてるのかを確認したいのなら、バッチサイズを大きくしてみてください
2倍→4倍→8倍...みたいに
gpuが使われてる場合は、データが増えてgpuのメモリーに収まらなくなったら、それを知らせるエラーメッセージが出ます
https://www.think-self.com/machine-learning/pytorch-out-of-memory/
実現したいこと
Pytorchの計算がGPU,CPUのどちらで計算されているかを確認したいです。
確認方法があればご教示ください。
前提
Pytorchで深層学習を試してみようと考えています。
以下のコードを入力しGPUが認識されていることは確認しました。
また、コード内でネットワークの重みやネットワークへの入力は.to(device)をつけてGPUで計算するようにしているつもりです。
(下記のコードからdeviceはcuda:0となっています)
しかし、タスクマネージャーではGPUが2%ほどしか使われていないと表示されます。
この時、なぜかCPUも8%程度であまり使われていません。
該当のソースコード
python
1print(torch.__version__) 2print(torch.cuda.is_available()) 3device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu") 4print(device) 5print(torch.cuda.get_device_name(0))
上記の出力
1.12.0+cu116
True
cuda:0
NVIDIA GeForce RTX 3080
試したこと
タスクマネージャーにcudaが表示されていなかったため、
以下手順で表示されるようにしましたが、
やはり使用率は2%程度です。
https://stealthinu.hatenadiary.jp/entry/2022/07/30/183632?utm_source=feed
補足情報（FW/ツールのバージョンなど）
cuda version 11.6
pytorch 1.12.0+cu116
OS windows11
回答1件
0
ベストアンサー
nvidia-smi叩いてみたら。
投稿2022/08/31 12:01
総合スコア1590
NVIDIA-SMI 516.94 Driver Version: 516.94 CUDA Version: 11.7 |
|-------------------------------+----------------------+----------------------+
| GPU Name TCC/WDDM | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|===============================+======================+======================|
| 0 NVIDIA GeForce ... WDDM | 00000000:01:00.0 On | N/A |
| 33% 37C P8 22W / 320W | 2408MiB / 10240MiB | 0% Default |
| | | N/A |
+-------------------------------+----------------------+----------------------+
と表示され、GPU使用率が0%程度ということのようです。
Pytorchの計算をGPUで計算するようにしたいのですが、
今回GPUで計算できていない理由として何が考えられるのでしょうか?
Pytorch側でGPUが認識されていて、コードでは.to(device)しているのですが...
ご教示いただけますと幸いです。
あなたの回答
tips
プレビュー
