GPUを使用したDnCNN学習時の損失が低下しない

DnCNNをGPUを使用して学習しようとしているのですが損失が約1億程度となっており、そこから低下しない状況です。
DnCNNはこのLINKのものを使用しています。
一部の変数を下記のように変更しています。

変更前 → 変更後
epoch_iter=2000 → epoch_iter=1000
steps_per_epoch=2000 → steps_per_epoch=1000

環境

GPU:GeForce RTX 3080 Lite Hash Rate
nvidia driver:460
CUDA:10.0
cudnn:7.4
ubntu18.04
python3.6
tensorflow:1.14.0
Keras:2.2.5

jbpb0

2021/10/27 01:58 編集

> GPU:GeForce RTX 3080 Lite Hash Rate 「GeForce RTX 3080」はAmpereアーキテクチャです https://www.nvidia.com/ja-jp/geforce/graphics-cards/30-series/rtx-3080-3080ti/ > CUDA:10.0 https://docs.nvidia.com/deeplearning/cudnn/support-matrix/index.html によると、CUDA 10.0はAmpereアーキテクチャに対応してません CUDA 11.*にしたら、質問の件が解決するのかは分かりませんが

jbpb0

2021/10/27 05:39 編集

> DnCNNをGPUを使用して学習しようとしているのですが損失が約1億程度となっており、そこから低下しない Google ColabでGPU使ってやってみましたけど、大丈夫でした時間かかるので、2Epochまでしかやってませんけど、その時のlossは下記の通りでした Epoch 1/300 2000/2000 [==============================] - 922s 461ms/step - loss: 391.5548 Epoch 2/300 2000/2000 [==============================] - 908s 454ms/step - loss: 202.2874 コードは、「main_train.py」の69行目のタブでエラーが出るので、それをスペースに置き換えただけ、他はそのままですディレクトリ配置は、 https://github.com/cszn/DnCNN/tree/master/TrainingCodes/dncnn_keras の画像に合わせました下記をGoogle Colabにインストールして使いました tensorflow-gpu 1.15.3 keras 2.3.1

jbpb0

2021/10/27 08:07

GPU有りWin 10パソコンでもやってみましたが、そちらでも大丈夫でした 5Epochまでですが、その時のlossは下記の通りでした Epoch 1/300 2000/2000 [==============================] - 266s 133ms/step - loss: 387.0488 Epoch 2/300 2000/2000 [==============================] - 251s 126ms/step - loss: 204.9236 Epoch 3/300 2000/2000 [==============================] - 253s 126ms/step - loss: 192.3130 Epoch 4/300 2000/2000 [==============================] - 252s 126ms/step - loss: 185.2777 Epoch 5/300 2000/2000 [==============================] - 257s 129ms/step - loss: 181.0284 コードとディレクトリ配置は、Google Colabの時と同じです環境 Win 10 GTX 1080 Ti CUDA 10.0 cuDNN 7.4 Python 3.7.10 tensorflow-gpu 1.15.3 Keras 2.3.1

xeno

2021/10/27 09:36

確認していただきありがとうございます。 CUDA11の件なのですが下記のLINKによるとtensorflowがCUDA10までしか対応していないように思うのですが使用できるのでしょうか。

jbpb0

2021/10/27 13:02

TensorFlowはバージョンによって、組み合わせて使えるCUDAとcuDNNのバージョンが決まってます https://www.tensorflow.org/install/source?hl=ja や https://www.tensorflow.org/install/source_windows?hl=ja の「テスト済みのビルド構成」の表に書かれてるバージョンなら、ほぼ使えるはずですどれかのバージョンでは表が間違ってましたが、ほとんどは合ってると思います Ampereアーキテクチャに対応してるCUDA 11.*との組み合わせだと、上記の表によると使えるのはTensorFlow 2.4.0以降になります

行動規範の内容に同意します

回答1件

ベストアンサー

DnCNNをGPUを使用して学習しようとしているのですが損失が約1億程度となっており、そこから低下しない

Google ColabでGPU使ってやってみましたけど、大丈夫なようでした
時間かかるので、2Epochまでしかやってませんけど、その時のlossは下記の通りでした
Epoch 1/300
2000/2000 [==============================] - 922s 461ms/step - loss: 391.5548
Epoch 2/300
2000/2000 [==============================] - 908s 454ms/step - loss: 202.2874

コードは、「main_train.py」の69行目のタブでエラーが出るので、それをスペースに置き換えただけ、他はそのままです

ディレクトリ配置は、
DnCNN-keras
の画像に合わせました

実行前に、下記をGoogle Colabにインストールして、使いました
tensorflow-gpu 1.15.3
keras 2.3.1

投稿2021/10/28 02:47

jbpb0

総合スコア7658