質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
Windows 10

Windows 10は、マイクロソフト社がリリースしたOSです。Modern UIを標準画面にした8.1から、10では再びデスクトップ主体に戻され、UIも変更されています。PCやスマホ、タブレットなど様々なデバイスに幅広く対応していることが特徴です。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Q&A

解決済

1回答

1469閲覧

使用するGPUでlossが変わる(Nanになる)

LenItsuki

総合スコア89

Windows 10

Windows 10は、マイクロソフト社がリリースしたOSです。Modern UIを標準画面にした8.1から、10では再びデスクトップ主体に戻され、UIも変更されています。PCやスマホ、タブレットなど様々なデバイスに幅広く対応していることが特徴です。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

0グッド

0クリップ

投稿2022/12/21 14:54

前提

Windows10 pro
tensorflow-gpu 2.3.0
python 3.6

実現したいこと

EfficientNetの学習において,
TITAN RTXを使用した場合は,下記のようにlossの値が出力されるのですが,
Quadro A6000を使用するとNanとなり,学習が進みません.
Quadro A6000でもlossが出力されるようにするにはどうしたらよいでしょうか?

発生している問題・エラーメッセージ

下は,Titan RTXでの結果で,Quadro A6000 では,loss のところがNanとなります.

1/329 [..............................] - ETA: 1:39 - loss: 0.0871 - accuracy: 0.9375

該当のソースコード

python

1history=model.fit( 2 x=train_data, 3 steps_per_epoch=train_data.n // BATCH_SIZE, 4 epochs=EPOCHS, 5 workers=8, 6 shuffle=True, 7 validation_data=val_data, 8 validation_steps=val_data.n // BATCH_SIZE, 9 # validation_steps=None, 10 # callbacks=[term], 11 callbacks=[ 12 tf.keras.callbacks.TensorBoard( 13 log_dir="log/" + datetime.datetime.now().strftime("%Y%m%d_%H%M%S"), 14 histogram_freq=1, 15 ) 16 ], 17)

試したこと

ドライバを入れなおしましたが改善しませんでした.

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

PondVillege

2022/12/21 18:19 編集

メモリサイズが不足したことによる計算時のメモリ領域範囲外アクセスの可能性が高いです. TITAN RTXを使用しているときにどのぐらいメモリを食うか確認して,Quadro A6000の6GBより少なく実行されるか検証した方が良いと考えます. https://datahax.jp/2021/05/19/persistence-m/ あとこれを参照してください.
LenItsuki

2022/12/22 11:02

ご回答ありがとうございます.RTX A6000ですのでメモリは48GBで,TITAN(24GB)よりメモリは多いのですが,使用率が上がらない状況です.
guest

回答1

0

自己解決

cudaやtensorflowのバージョンを変えたらlossの値が出力されるようになりました.

下記にも,本件の解決策に関連する理由が書かれてました.
https://teratail.com/questions/344562

投稿2022/12/25 05:51

編集2023/01/03 08:32
LenItsuki

総合スコア89

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問