###症状
CNNを用いた研究を行っている学生です.初めてteratailを利用させていただきます.
現在,Kerasを用いて最適化手法の比較を行っており,Eveの評価で上記が発生困っています.
Eveの実装自体はtdeboissiere氏がGithub上で公開されているものを流用しています.
これをKerasのexamplesに含まれるmnist_cnn.pyを用いて実行しました.
1Epochは順調にlossが下がり0.09あたりまで減少しました.しかし,2Epochに入るとlossが1.1921e-07とfloat32の最小値に変化してしまいました.その後はlossの値は変化せず,明らかに正常な学習が行えていません.また,accも0.1付近で落ち着いてしまいます.
Kerasに元々含まれている最適化手法(AdamやAdadelta等)では上記のような症状は全く起こらず,正常な学習が行えています.
###質問
上記の症状の原因と対策を教えていただきたいです.
特に,最適化手法を変更しただけにも関わらずlossやaccに直接被害が出ている点がわからないです
###環境
Python 3.6.3
Keras 2.1.1
Tensorflow-gpu 1.4.0
使用OS:Windows10
IDE:VisualStudio2017
実行GPU:GTX970
回答2件
あなたの回答
tips
プレビュー
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。
2017/11/30 06:50