質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
87.20%
CNN (Convolutional Neural Network)

CNN (Convolutional Neural Network)は、全結合層のみではなく畳み込み層とプーリング層で構成されるニューラルネットワークです。画像認識において優れた性能を持ち、畳み込みニューラルネットワークとも呼ばれています。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

解決済

ドロップアウト用いても過学習が起きてしまう

gdgd_tink
gdgd_tink

総合スコア15

CNN (Convolutional Neural Network)

CNN (Convolutional Neural Network)は、全結合層のみではなく畳み込み層とプーリング層で構成されるニューラルネットワークです。画像認識において優れた性能を持ち、畳み込みニューラルネットワークとも呼ばれています。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

1回答

0評価

0クリップ

952閲覧

投稿2021/10/08 06:26

CNNを用いて画像認識を行いたいのですが、過学習が起きてしまっています。
自分なりに調べてドロップアウトも実装したのですが原因が分かりません。

イメージ説明

発生している問題・エラーメッセージ

過学習が起きてしまう

該当のソースコード

X = []
Y = []

for picture in list_pictures(r'C:\Users\Blouse'):
img = img_to_array(load_img(picture, target_size=(64,64)))
X.append(img)
Y.append(0)
for picture in list_pictures(r'C:\Users\Top'):
img = img_to_array(load_img(picture, target_size=(64,64)))
X.append(img)
Y.append(1)
for picture in list_pictures(r'C:\Users\Jacket'):
img = img_to_array(load_img(picture, target_size=(64,64)))
X.append(img)
Y.append(2)
for picture in list_pictures(r'C:\Users\Jeans'):
img = img_to_array(load_img(picture, target_size=(64,64)))
X.append(img)
Y.append(3)
for picture in list_pictures(r'C:\Users\Skirt'):
img = img_to_array(load_img(picture, target_size=(64,64)))
X.append(img)
Y.append(4)

X = np.asarray(X)
Y = np.asarray(Y)

X = X.astype('float32')
X = X / 255.0

Y = to_categorical(Y, 5)

X_train, X_test, y_train, y_test = train_test_split(X, Y, test_size=0.33, random_state=111)

model = Sequential()

model.add(Conv2D(32, (3, 3), padding='same',
input_shape=X_train.shape[1:]))
model.add(Activation('relu'))
model.add(Conv2D(32, (3, 3)))
model.add(Activation('relu'))
model.add(MaxPooling2D(pool_size=(2, 2)))
model.add(Dropout(0.25))

model.add(Conv2D(64, (3, 3), padding='same'))
model.add(Activation('relu'))
model.add(Conv2D(64, (3, 3)))
model.add(Activation('relu'))
model.add(MaxPooling2D(pool_size=(2, 2)))
model.add(Dropout(0.25))

model.add(Flatten())
model.add(Dense(512))
model.add(Activation('relu'))
model.add(Dropout(0.5))
model.add(Dense(5))
model.add(Activation('softmax'))

model.compile(loss='categorical_crossentropy',
optimizer='SGD',
metrics=['accuracy'])

history = model.fit(X_train, y_train, batch_size=5, epochs=200,
validation_data = (X_test, y_test), verbose = 0)

plt.plot(history.history['accuracy'])
plt.plot(history.history['val_accuracy'])
plt.title('model accuracy')
plt.xlabel('epoch')
plt.ylabel('accuracy')
plt.legend(['accuracy', 'val_accuracy'], loc='lower right')
plt.show()

試したこと

ここに問題に対して試したことを記載してください。

補足情報(FW/ツールのバージョンなど)

ここにより詳細な情報を記載してください。

良い質問の評価を上げる

以下のような質問は評価を上げましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

  • プログラミングに関係のない質問
  • やってほしいことだけを記載した丸投げの質問
  • 問題・課題が含まれていない質問
  • 意図的に内容が抹消された質問
  • 過去に投稿した質問と同じ内容の質問
  • 広告と受け取られるような投稿

評価を下げると、トップページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

meg_
meg_

2021/10/08 10:59

> 自分なりに調べてドロップアウトも実装したのですが原因が分かりません。 実装前と後で変化はありましたか?
meg_
meg_

2021/10/08 11:02

訓練画像は何枚ですか?
toast-uz
toast-uz

2021/10/09 01:21 編集

Cifar10を使って質問者様のコードを実行すると、lossがnanになりますね。質問者様のlossはどうなっていますでしょうか?もしloosがnanになっているのであれば、モデルが収束しにくく、SGDだと発散しているものと思います。optimizer='Adam'にすることで解決します。 過学習の対処としては、Dropoutは使っても良いですが、まずはBatchNormalizationを使うようにしたほうが、学習効率は高いですし、過学習防止にも有効です。また、純粋にデータ拡張によって学習データ量を増やすのも効果があります。 あと質問とは直接関係はありませんが、データ量がそれなりにあるのでしたら、バッチサイズはデフォルト32でよいと思います。 推測が多い話なので、回答欄には書きませんが、まずは試してみてください。アタリのようでしたら、回答書きます。
toast-uz
toast-uz

2021/10/09 03:02

BatchNormalizationを使うと顕著に改善したことを確認しましたので、回答を書きます。

まだ回答がついていません

会員登録して回答してみよう

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
87.20%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

CNN (Convolutional Neural Network)

CNN (Convolutional Neural Network)は、全結合層のみではなく畳み込み層とプーリング層で構成されるニューラルネットワークです。画像認識において優れた性能を持ち、畳み込みニューラルネットワークとも呼ばれています。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。