Q&A
追記の内容みると、訓練誤差は落ちていて、バリデーション誤差が停滞しているので、データ数が足りない等で過学習気味ということではないでしょうか？
実現したいこと
CNNにおけるlossとaccの値から読み取れることを確認したいです。
質問
val_lossが大きいと共にval_accも大きい時、どういうことがCNNで起きているのでしょうか。
lossが大きくaccが小さいならば学習が進んでいない、val_lossが大きくaccが大きいなら過学習ということはわかるのですが
上記のタイプはどのように解釈すべきでしょうか。
学習設定
task: binary classification
model: ResNet101
Optimizer: SGD(lr=1e-4, momentum=0.9)
loss function: cross entropy
epoch: 300
モデルのコード
GitHubに上がっているkerasでのResNetコードを拝借いたしました。
結果画像
accuracy
loss
こちらは補足ですがResNet34を用いた際の学習曲線です
accuracy
loss
どちらもあまりうまく学習が進んでいないことがわかります…
追記
lr=1e-3としたところ以下のような画像になりました。
やはりlossもaccも高いという現象が見られるような気がするのですが…
なにをもって「高い」としているのかよくわかりません。lossに関して言えば、値の絶対的な位置はネットワークとデータによるので、増加減少の傾向だけ見れば良いです
回答2件
0
val_lossが大きいと共にval_accも大きい時
原理的にないかと。質問のデータも、そうは解釈できません。
ResNet101はよくわかりません。ResNet34の方はよく見る過学習パターンなので、パラメータやネットワーク構造をチューニングすれば素直に改善するかと。
投稿2018/10/19 04:39
総合スコア30933
0
ベストアンサー
過学習しているだけのように見えます。
lossが下がって、
accが上がって、
val_lossは下がらず、
val_accは上がっていない
という状態です。
学習率を下げて、バッチサイズを少し大きくしてみてはいかがでしょう。
val_accは高いという判断は、他のモデルと比べて、などでしょうか？
投稿2018/10/19 08:16
総合スコア8560
ご回答ありがとうございます。性能評価に関する記述が抜けていたこと申し訳ありません。
高いというのは全く学習していない状態に比べて、つまりaccが0.5のときのことを指していたつもりでした。(今回扱うデータの各カテゴリ(0 or 1)の数は1:1になっています)
なのでlossが低くならないのにaccは0.5より高くなっていてこれは学習しているのかしていないのか別の状態なのか見分けがつかなくなった次第です。
学習速度が速いように見えます。
エポック数に対して、lossが急激に下がりきっています。
結果その後の学習が止まっているように見えます。
過学習した時に、valデータが「リーク」しているとval_accだけ上がるように見えます。
未知データに対しては学習がうまくいっていないので、val_lossは下がりにくいです。
基本的に青とオレンジの線が乖離すると不測のことが起こります。
あなたの回答
tips
プレビュー
