CNNのトレーニングデータの精度を良くしたい

Question

CNNを用いた分類を行っているのですが、トレーニングデータよりもテストデータのほうが精度が高くトレーニングデータの学習の進み方があまりよくありません。
これは、学習回数の問題とトレーニングデータの数の問題なのでしょうか。
以下が結果のグラフになります。

図1 accuracyの精度グラフ

図2 lossの精度グラフ

図3　ドロップアウト0のaccuracyの精度グラフ

図4　ドロップアウト0のlossの精度グラフ

図5 ドロップアウト0.25で250で学習率1/10, 375でさらに1/10のaccuracy

図5 ドロップアウト0.25で250で学習率1/10, 375でさらに1/10のloss

実現したいこと

・トレーニングデータの精度を良くしたい

発生している問題・エラーメッセージ

トレーニングデータよりテストデータの方が精度が高く、トレーニングデータの学習の進みが遅い。

該当のソースコード（層の部分）

from tensorflow.python.keras.models import Sequential
model = Sequential()

from tensorflow.python.keras.layers import Conv2D
model.add(                                                            #畳み込み
    Conv2D(
        filters=8,         #出力
        input_shape=(50,50,3),
        kernel_size=(3,3),  #フィルタサイズ
        strides=(1,1),
        padding='valid',
        activation='relu'
    )
)

from tensorflow.python.keras.layers import MaxPooling2D
from tensorflow.python.keras.layers import Dropout

model.add(MaxPooling2D(pool_size=(2,2)))                    #マックスプーリング                                   #

#追加畳み込み
model.add(
    Conv2D(
    filters =16,
    kernel_size = (3,3),
    strides = (1,1),
    padding = 'valid',
    activation = 'relu'
    ))

model.add(MaxPooling2D(pool_size=(2,2)))

#追加畳み込み
model.add(
    Conv2D(
    filters = 32,
    kernel_size = (3,3),
    strides = (1,1),
    padding = 'valid',
    activation = 'relu'
    ))

model.add(MaxPooling2D(pool_size=(2,2)))

#追加畳み込み
model.add(
    Conv2D(
    filters = 64,
    kernel_size = (3,3),
    strides = (1,1),
    padding = 'valid',
    activation = 'relu'
    ))

model.add(MaxPooling2D(pool_size=(2,2)))

from tensorflow.python.keras.layers import Flatten
model.add(Flatten())                                               #2次元配列に

from tensorflow.python.keras.layers import Dense

model.add(Dense(units=192
                ,activation='relu'))  #全結合

model.add(Dropout(0.5))
model.add(Dense(units=3,activation='softmax',name="f3"))                         #全結合

# 追加の学習率減衰
def step_decay(epoch):
    x = 0.001
    if epoch >= 250: x = 0.0001
    if epoch >= 375: x = 0.00001
    return x
lr_decay = LearningRateScheduler(step_decay)


model.compile(
    optimizer=Adam(),                   #自動で学習率が設定される
    loss='categorical_crossentropy',    #多分類のときにしていできる交差エントロピー
    metrics=['accuracy']
)                        #全結合

history_model = model.fit_generator(
    x_train_generator,
    epochs = 10,
    validation_data = val_test_generator, 
    validation_steps = None,
    shuffle = True,
    callbacks=[lr_decay]
    )

データの詳細

トレーニングデータには三種類の画像が入っており、それぞれ7256, 8356, 4720合計すると20332程のデータ数があります。
対してテストデータには、それぞれ716,2089,550の計3335程のデータ数があります

補足情報（FW/ツールのバージョンなど）

windows10（64bit）
anacondaを使用
python　3.8.13
TensorFlow　2.3
Spyder 5.3.1を利用

Comments

[jbpb0]

Dropout(0.5)の数値を小さくしたら、どうなりますでしょうか？

[semisemi]

質問ありがとうございます。
数値を小さくとは0.3程の数字で良いでしょうか。

[jbpb0]

どれくらいがいいのかは、やってみないと分からないです
0.1〜0.3くらいに適当に変えてみて、傾向としてどうなるのかを見て、望ましい方向に変われば、さらに数値を変えてみる

あるいは、ドロップアウトを無くしたらどうなるか、を確認する

val(test)があまり変わらずtrainが良くなればいいですが、逆にtrainがあまり変わらずval(test)が悪化することもあるので

[meg_]

トレーニングデータとテストデータで四種類の画像の割合はほぼ同じですか？

[jbpb0]

> トレーニングデータには三種類の画像が入っており、それぞれ7256, 8356, 4720合計すると20332程のデータ数があります。
対してテストデータには、それぞれ716,2089,550の計3335程のデータ数があります

トレーニングデータの三種類の画像の数は近いですが、テストデータは二種類目の画像の数(2089)が他と比べて多いので、2089を半分の1000くらいに減らしてみたら、いかがでしょうか？

Answer 1

一般的に使われるCNNに対して，上述のモデルは入力層側のフィルタの枚数が少ないように感じます．解像度28x28のLeNetでは6枚ですがResNetなどのDNNでは序盤から64枚のフィルタを持つなど，モデルの高性能化を要求するとフィルタの枚数も必然的に増えます．今回はまだモデルの性能に納得がいっていないということだったので，フィルタの枚数を増やすのが妥当だと考えられます．

また，他のパラメータも改善の余地があります．リファレンスを参照するとわかるのですが，Conv2D()の重み初期値kernel_initializerはデフォルトで，活性化関数をtanh()にしたとき用のglorot_uniformが設定されています．それに対して，活性化関数をReLU()にしたとき用のものとして設計されたhe_uniformを適用すると，学習速度が速くなることが知られています．

もちろん，平滑化Flatten()した後の全結合層Dense()でも設定できるパラメータです．

もし，フィルタ数を増やして過学習を起こすのであれば，重み正則化項であるkernel_regularizerを設定するのも一手です．

更には，BatchNormalization()を利用することも学習速度を速くできる手法であることも知られています．活性化関数の直後に挿入すると良いでしょう．

また，学習率減衰にはLearningRateScheduler()も利用できますが，ReduceLROnPlateau()の方が動的に学習率を減衰させることができて便利です．リファレンスを参考に実装してみると良いでしょう．