＜tensorflow＞正解率が変わらない

Question

前提・実現したいこと

tensorflowを使って画像をdeeplearningさせ、最終的にはももクロのメンバーを判別するアンドロイドアプリにしたいと思っています。

データ数としては、各クラスごとにトレーニングデータが300、テストデータが100枚です。(この比率に関しても調べたところさまざまな意見があるようですが、どのくらいが最適なのでしょうか？)

発生している問題・エラーメッセージ

公式チュートリアル（https://www.tensorflow.org/tutorials/images/classification）を参考にしてコードを少し書き換え、実行したのですが正解率に変動がなく、25%に留まってしまっています。

該当のソースコード

#!/usr/bin/env python3
# -*- coding: utf-8 -*-
"""
Created on Fri Feb  7 10:59:53 2020

@author: 
"""
from __future__ import absolute_import, division, print_function, unicode_literals
import tensorflow as tf
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Dense, Conv2D, Flatten, Dropout, MaxPooling2D
from tensorflow.keras.preprocessing.image import ImageDataGenerator
#import plot as plt
import os
import numpy as np
import matplotlib.pyplot as plt
"""
_URL = 'https://storage.googleapis.com/mledu-datasets/cats_and_dogs_filtered.zip'

path_to_zip = tf.keras.utils.get_file('cats_and_dogs.zip', origin=_URL, extract=True)

PATH = os.path.join(os.path.dirname(path_to_zip), 'cats_and_dogs_filtered')
"""

train_dir = "/users/kanta/desktop/tensorflow_mcz/dataset/train"
validation_dir = "/users/kanta/desktop/tensorflow_mcz/dataset/validation"

train_arin_dir = os.path.join(train_dir, 'arin') # 学習用のあーりん画像のディレクトリ
train_kanako_dir = os.path.join(train_dir, 'kanako')  # 学習用の夏菜子画像のディレクトリ
train_reni_dir = os.path.join(train_dir, 'reni')  # 学習用のれに画像のディレクトリ
train_shiori_dir = os.path.join(train_dir, 'shiori')  # 学習用の詩織画像のディレクトリ

validation_arin_dir = os.path.join(validation_dir, 'arin')  # 検証用のあーりん画像のディレクトリ
validation_kanako_dir = os.path.join(validation_dir, 'kanako')  # 検証用の夏菜子画像のディレクトリ
validation_reni_dir = os.path.join(validation_dir, 'reni')  # 検証用のれに画像のディレクトリ
validation_shiori_dir = os.path.join(validation_dir, 'shiori')  # 検証用の詩織画像のディレクトリ
num_arin_tr = len(os.listdir(train_arin_dir))
num_kanako_tr = len(os.listdir(train_kanako_dir))
num_reni_tr = len(os.listdir(train_reni_dir))
num_shiori_tr = len(os.listdir(train_shiori_dir))

num_arin_val = len(os.listdir(validation_arin_dir))
num_kanako_val = len(os.listdir(validation_kanako_dir))
num_reni_val = len(os.listdir(validation_reni_dir))
num_shiori_val = len(os.listdir(validation_shiori_dir))

total_train = num_arin_tr + num_kanako_tr +num_reni_tr+num_shiori_tr
total_val = num_arin_val + num_kanako_val +num_reni_val+num_shiori_val
print('total training arin images:', num_arin_tr)
print('total training kanako images:', num_kanako_tr)
print('total training reni images:', num_reni_tr)
print('total training shiori images:', num_shiori_tr)

print('total validation arin images:', num_arin_val)
print('total validation kanako images:', num_kanako_val)
print('total validation reni images:', num_reni_val)
print('total validation shiori images:', num_shiori_val)
print("--")
print("Total training images:", total_train)
print("Total validation images:", total_val)
batch_size = 128
epochs = 15
IMG_HEIGHT = 150
IMG_WIDTH = 150
train_image_generator = ImageDataGenerator(rescale=1./255) # 学習データのジェネレータ
validation_image_generator = ImageDataGenerator(rescale=1./255) # 検証データのジェネレータ
image_gen_train = ImageDataGenerator(
                    rescale=1./255,
                    rotation_range=45,
                    width_shift_range=.15,
                    height_shift_range=.15,
                    horizontal_flip=True,
                    zoom_range=0.5
                    )
train_data_gen = image_gen_train.flow_from_directory(batch_size=batch_size,
                                                     directory=train_dir,
                                                     shuffle=True,
                                                     target_size=(IMG_HEIGHT, IMG_WIDTH),
                                                     class_mode='binary')
augmented_images = [train_data_gen[0][0][0] for i in range(5)]
#plotImages(augmented_images)

image_gen_val = ImageDataGenerator(rescale=1./255)
val_data_gen = image_gen_val.flow_from_directory(batch_size=batch_size,
                                                 directory=validation_dir,
                                                 target_size=(IMG_HEIGHT, IMG_WIDTH),
                                                 class_mode='binary')

augmented_images = [train_data_gen[0][0][0] for i in range(5)]
# 上で学習用画像の可視化のために定義、使用されたおなじカスタムプロット関数を再利用する
#plotImages(augmented_images)

sample_training_images, _ = next(train_data_gen)

# この関数は、1行5列のグリッド形式で画像をプロットし、画像は各列に配置されます。
def plotImages(images_arr):
    fig, axes = plt.subplots(1, 5, figsize=(20,20))
    axes = axes.flatten()
    for img, ax in zip( images_arr, axes):
        ax.imshow(img)
        ax.axis('off')
    plt.tight_layout()
    plt.show()

plotImages(sample_training_images[:5])
model_new = Sequential([
    Conv2D(16, 3, padding='same', activation='relu', 
           input_shape=(IMG_HEIGHT, IMG_WIDTH ,3)),
    MaxPooling2D(),
    Dropout(0.2),
    Conv2D(32, 3, padding='same', activation='relu'),
    MaxPooling2D(),
    Conv2D(64, 3, padding='same', activation='relu'),
    MaxPooling2D(),
    Dropout(0.2),
    Flatten(),
    Dense(512, activation='relu'),
    Dense(1, activation='sigmoid')
])

model_new.compile(optimizer='adam',
              loss='binary_crossentropy',
              metrics=['accuracy'])

model_new.summary()

history = model_new.fit_generator(
    train_data_gen,
    steps_per_epoch=total_train // batch_size,
    epochs=epochs,
    validation_data=val_data_gen,
    validation_steps=total_val // batch_size
)

acc = history.history['accuracy']
val_acc = history.history['val_accuracy']

loss = history.history['loss']
val_loss = history.history['val_loss']

epochs_range = range(epochs)

plt.figure(figsize=(8, 8))
plt.subplot(1, 2, 1)
plt.plot(epochs_range, acc, label='Training Accuracy')
plt.plot(epochs_range, val_acc, label='Validation Accuracy')
plt.legend(loc='lower right')
plt.title('Training and Validation Accuracy')

plt.subplot(1, 2, 2)
plt.plot(epochs_range, loss, label='Training Loss')
plt.plot(epochs_range, val_loss, label='Validation Loss')
plt.legend(loc='upper right')
plt.title('Training and Validation Loss')
plt.show()

試したこと

過去にteratailで質問されている同じような質問の回答に乗っていることを試したりしましたが、良い結果は得られませんでした。

補足情報（FW/ツールのバージョンなど）

macbook air
python3

Comments

[tiitoi]

訓練誤差は下がっているので、典型的な過学習ではないでしょうか。
画像は十分な枚数 (最低でも各クラス100枚以上) ありますか?

[TakaKan]

ありがとうございます。
データ数に関して修正しました！
よろしくお願いいたします。

[tiitoi]

コードを見ましたが、ゼロから学習するのではなく、学習済みモデルを使って fine-tuning という形をとれば、多分精度がかなり上がると思います。
ResNet50 とか有名なモデルは tensorflow.keras.application 以下にあるので、それを使ってみてはどうでしょうか。
https://keras.io/ja/applications/

[meg_]

図を見るとaccuracyは7割くらいに見えるのですが、「正解率に変動がなく、25%」とはどういう意味でしょうか？

[TakaKan]

tiitoi様
finetuningを用いたら、精度を70%ほどまで高めることができました！
ありがとうございました。

meg_様
すみません...載せていたグラフはチュートリアルを行った時のグラフでした。
凡ミスです。以後気をつけます。お手間をおかけいたしました。

Answer 1

fine-tuningという方法を採用したところ、精度を向上させることができました。

みなさまありがとうございました！