質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

解決済

1回答

2218閲覧

【Tensorflow】固定したシード値を再びランダムにする。

Nekodigi

総合スコア16

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

0クリップ

投稿2019/11/16 09:11

実現したいこと

コードの中で、一部分だけtf.random.normal()のシード値を固定する必要があったのでtf.random.set_seed()を使いました。しかし、固定したシード値を元に戻す方法が見つかりません。
そもそも、リファレンスにはtf.random.normal()の引数にseedがあるのですが、そこを変更しても結果が一定になりません。
tf.random.set_seed()を利用した後は、GANの学習がうまくいかないので、解決策があればお願いします。

コードはGistに張っています。問題個所は主にConfigという見出しの近くです。
https://gist.github.com/Nekodigi/9f1c537c73c0f1770095fc3ebbab0d63

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

なんだか、勘違いをされているように思います。
コンピュータは、「電子計算機」です。計算はできますが、中にサイコロがあるわけではありません。「乱数」というのは、実は計算で求められます。いくつかの計算の方法がありますが、種を素に計算すると「乱数」に見える結果になる、ということです。あるいは、膨大な乱数の表があって、表から順番に取り出します。「乱数のシード」というのは、最初の計算の種、または最初の取り出しのインデックスです。ですから、「乱数のシードを戻す」ということはできますが、「今まで取り出した乱数の続き」となると、乱数を取り出した回数を覚えておいて、その回数だけ無駄に乱数を取り出す、ということになります。

ということを踏まえて、「シード値を固定する必要」とは、どのようなものでしょうか。通常、シード値を固定するのは、「アプリケーションを何度実行しても、同じ結果を得たい」時に行います。また、ちょっと検索すれば出てくることですが(teratailでも何度か出てきている)、tensorflowで結果を毎回同じにするためには、いくつかのライブラリが使うシードを固定しなければならないようです。加えて、GPU(CUDAとcuDNN)を使うなら、cuDNNの計算結果が決定的ではないため、一定にはならないようです。

投稿2019/11/16 11:08

Q71

総合スコア995

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

Nekodigi

2019/11/16 23:47

回答ありがとうございます。 回答いただいたことは、軽く知ってはいたのですが、tf.random.set_seed()を実行したのち、何度やっても学習が進まず。何か特別な仕様があるのではと思ったため、質問させていただきました。ひとまず、numpyの乱数生成で代用しているのですが、tf.random.set_seed()を使うことで、学習が進まなくなるような状態が発生するのはなぜなのかというのが気になります。
Q71

2019/11/17 01:02

すみません、私が書いたことはご理解されていると言うなら、 「コードの中で、一部分だけtf.random.normal()のシード値を固定する」 これの意味、意図を教えていただけるでしょうか。「セットしたら学習がすすまない」のか、「学習が進まないのでセットしてみたが、それでも進まない」のか。 そもそも、「学習が進まない」という判断の根拠はなんでしょうか。 「乱数は欲しいが、初期値は毎回同じにしたい」なら、random.normalの引数seedを設定すればいいと思います。set_seedはセッションを超えてシードを統一する様です。乱数の出方によっては、学習しにくいことがあるかもしれません。たまたまそういうシードを設定してしまっているのかもしれません。
Q71

2019/11/17 01:07

ああ、「リファレンスにはtf.random.normal()の引数にseedがあるのですが、そこを変更しても結果が一定になりません。」これも、何を、どうやって確認しましたか。 よくあることですが、確認の方法が間違っているために、できていないと勘違いしていないでしょうか。 一般的に、期待するものと結果が異なるから疑問になります。期待と結果が違うとは書かれていますが、期待するもの、結果を確認した方法が書かれていないので、第三者には判別しにくい内容になっています。
Nekodigi

2019/11/18 12:25 編集

返信ありがとうございます。 tf.random.normalのseedを一定の数値にしても結果が一定にならないことは、このコードの結果が一定にならないことから判断しました。 noise = tf.random.normal([1, 100], seed = 0) print(noise)            tf.random.normal()でここを生成↓ tf.random.normal()のシード値を固定する意図は、”同一の乱数”から、GANの予測結果を生成するためです。同一の乱数を先に保存しておく方法もあると思いますが、できれば、データ量削減のため毎回生成したいと思っています。tf.random.set_seed()を利用すると、学習が進まないと判断した理由は、利用する前は、学習結果が更新されていたのに、利用後、学習結果が、更新されなくなったからです。しかし、これに関しては別の問題もあるかもしれないので、しばらく考えようと思います。 確認したいことは確認できましたので、ベストアンサーにさせていただきます。 回答ありがとうございました。 わかりにくい説明ですみません。他にも情報があれば教えていただけると助かります。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問