CNNディープラーニングでTrainデータの正答率が高すぎる

Question

前提・実現したいこと

Tensorflowを用いてCNNを利用した10クラスの分類を行っています。
モデルはResNet34です。
未知データでの精度は95%程でした。

発生している問題

学習後のグラフを見ると、validationデータのほうはいいのですが、
trainデータのグラフがvalidationに付いていかずにすぐにaccuracyが1.00になってしまいます。

試したこと

モデルを変更しVggNet16で試したところ、グラフはよくあるような形になりましたが精度が80%ほどしか出ませんでした。

###気になる点、教えてもらいたい点

・trainデータのグラフのかたちがおかしいがこれでよいのか
・よくなければどのような状態に陥っているのか
・解決策

補足情報

・Tensorflow：2.3.0
・モデル：ResNet34
・Epoch：100
・patch：512
・画像枚数：各600枚、合計6000枚、そのうち一割（600枚）をvalidationに利用

初めての質問でつたない点もあるかと思いますがよろしくお願いします。

Answer 1

・trainデータのグラフのかたちがおかしいがこれでよいのか

最終的に両方ともロスが少ないのであれば良いのではないでしょうか？

・よくなければどのような状態に陥っているのか

これが

• 一度収束したあと乖離していれば過学習
• 収束することなく乖離していけばデータが足りないか学習率が高すぎる、最適化手法があっていないなど

上記の状態であれば、「データを増やす、学習率を下げる、最適化手法を変える、ネットワークをシンプルにする」などです。

---

NNによってtrainは使うデータ、testは目隠しされてわからないデータなので、「わからないもの(=test)」に関して初めのスコアが悪いのは十分あり得る話です。

Comments

[tighyo]

回答ありがとうございます。

train、lossともに少ないのでとりあえずはこのまま進めていこうと思います。

ご回答ありがとうございました。