画像判別のプログラムを正常に動かしたい

Question

画像判別のプログラムを正常に動かしたい

Google Colabratory上でPythonを用いて画像判別を行っています。
結果をだす過程で以下のエラーメッセージが発生しました。

いろいろなサイトを参考にさせていただき、なんとか訓練データの結果は得られるようになったと思うのですが、テスト結果や図の表示など、その先がうまく行きません。

よろしければ、直した方が良い点を指摘していただければ幸いです。どうかよろしくお願いします。

発生している問題・エラーメッセージ

OverflowError                             Traceback (most recent call last)
<ipython-input-54-1cd9c70489aa> in <module>()
    136 
    137 # モデルを評価 --- (*5)
--> 138 score = model_cnn.evaluate(X_test, y_test, verbose=1)
    139 print('正解率=', score[1], 'loss=', score[0])
    140 

4 frames
/usr/local/lib/python3.6/dist-packages/tensorflow/python/keras/engine/training.py in evaluate(self, x, y, batch_size, verbose, sample_weight, steps, callbacks, max_queue_size, workers, use_multiprocessing, return_dict)
   1394               callbacks.on_test_batch_end(end_step, logs)
   1395       logs = tf_utils.to_numpy_or_python_type(logs)
-> 1396       callbacks.on_test_end(logs=logs)
   1397 
   1398       if return_dict:

/usr/local/lib/python3.6/dist-packages/tensorflow/python/keras/callbacks.py in on_test_end(self, logs)
    560     for callback in self.callbacks:
    561       if getattr(callback, '_supports_tf_logs', False):
--> 562         callback.on_test_end(logs)
    563       else:
    564         if numpy_logs is None:  # Only convert once.

/usr/local/lib/python3.6/dist-packages/tensorflow/python/keras/callbacks.py in on_test_end(self, logs)
   1033   def on_test_end(self, logs=None):
   1034     if not self._called_in_fit:
-> 1035       self._finalize_progbar(logs, self._test_step)
   1036 
   1037   def on_predict_end(self, logs=None):

/usr/local/lib/python3.6/dist-packages/tensorflow/python/keras/callbacks.py in _finalize_progbar(self, logs, counter)
   1094       self.target = counter or self.seen
   1095       self.progbar.target = self.target
-> 1096     self.progbar.update(self.target, list(logs.items()), finalize=True)
   1097 
   1098 

/usr/local/lib/python3.6/dist-packages/tensorflow/python/keras/utils/generic_utils.py in update(self, current, values, finalize)
    581 
    582       if self.target is not None:
--> 583         numdigits = int(np.log10(self.target)) + 1
    584         bar = ('%' + str(numdigits) + 'd/%d [') % (current, self.target)
    585         prog = float(current) / self.target

OverflowError: cannot convert float infinity to integer

該当のソースコード

# CNNでMNISTの分類問題に挑戦
import keras
from keras.models import Sequential
from keras.layers import Dense, Dropout, Flatten
from keras.layers import Conv2D, MaxPooling2D
import matplotlib.pyplot as plt
import os
import cv2
import random
import numpy as np

# Google driveをマウントする （既にマウントしていたら飛ばしてOK）
from google.colab import drive
drive.mount('/content/drive')


DATADIR = "/content/drive/MyDrive/Colab Notebooks/Galaxy_Zoo/Train_Image"
CATEGORIES = ["face-on", "edge-on"]
IMG_SIZE = 32
training_data = []

def create_training_data():
    for class_num, category in enumerate(CATEGORIES):
        path = os.path.join(DATADIR, category)
        for image_name in os.listdir(path):
            try:
                img_array = cv2.imread(os.path.join(path, image_name), cv2.IMREAD_GRAYSCALE)  # 画像読み込み
                img_resize_array = cv2.resize(img_array, (IMG_SIZE, IMG_SIZE))  # 画像のリサイズ
                training_data.append([img_resize_array, class_num])  # 画像データ、ラベル情報を追加
            except Exception as e:
                pass

create_training_data()

random.shuffle(training_data)  # データをシャッフル

X_train = []  # 画像データ
y_train = []  # ラベル情報

# データセット作成
for feature, label in training_data:
    X_train.append(feature)
    y_train.append(label)

    # numpy配列に変換
X_train = np.array(X_train)
y_train = np.array(y_train)

DATADIR = "/content/drive/MyDrive/Colab Notebooks/Galaxy_Zoo/Test_Image"
IMG_SIZE = 50
test_data = []

def create_test_data():
        path = os.path.join(DATADIR)
        for image_name in os.listdir(path):
            try:
                img_array = cv2.imread(os.path.join(path, image_name), cv2.IMREAD_GRAYSCALE)  # 画像読み込み
                img_resize_array = cv2.resize(img_array, (IMG_SIZE, IMG_SIZE))  # 画像のリサイズ
                training_data.append([img_resize_array, class_num])  # 画像データ、ラベル情報を追加
            except Exception as e:
                pass

create_test_data()

random.shuffle(test_data)  # データをシャッフル

X_test = []  # 画像データ
y_test = []  # ラベル情報

# データセット作成
for feature, label in test_data:
    X_test.append(feature)
    y_test.append(label)

# numpy配列に変換
X_test = np.array(X_test)
y_test = np.array(y_test)

xy = (X_train, X_test, y_train, y_test)
#データを保存する（データの名前を「tea_data.npy」としている）
np.save("/content/drive/MyDrive/Colab Notebooks/Galaxy_Zoo/galaxy_zoo.npy", xy)

# 入力と出力を指定
in_shape = (32, 32, 1)
out_size = 2


# データを(1, 28, 28)の三次元配列に変換
X_train = X_train.reshape(X_train.shape[0], 32, 32, 1).astype('float32') / 255
X_test = X_test.reshape(X_test.shape[0], 32, 32, 1).astype('float32') / 255


# ラベルデータをone-hotベクトルに直す
y_train = keras.utils.to_categorical(y_train.astype('int32'),2)
y_test = keras.utils.to_categorical(y_test.astype('int32'),2)

# CNNモデル構造を定義 --- (*2)
model_cnn = Sequential()
model_cnn.add(Conv2D(32, kernel_size=(3, 3),            #畳み込み層
                 activation='relu',
                 input_shape=in_shape))
model_cnn.add(Conv2D(64, (3, 3), activation='relu'))
model_cnn.add(MaxPooling2D(pool_size=(2, 2)))         #プーリング層
model_cnn.add(Dropout(0.25))                                  #ドロップアウトモジュール
model_cnn.add(Flatten())                                           #入力をフラットにするモジュール
model_cnn.add(Dense(128, activation='relu'))             #活性化関数モジュール
model_cnn.add(Dropout(0.5))
model_cnn.add(Dense(out_size, activation='softmax'))

# モデルを構築 --- (*3)
RMSprop=keras.optimizers.RMSprop(lr=0.001, rho=0.9, epsilon=None, decay=0.0)
model_cnn.compile(
    loss='categorical_crossentropy',
    optimizer=RMSprop,
    metrics=['accuracy'])

# 学習を実行 --- (*4)
hist = model_cnn.fit(X_train, y_train,
          batch_size=32,       #batch_size : 一回に計算するデータ数のこと
          epochs=12,
          verbose=1,              #verbose : 1の場合はログをプログレスバーで標準出力
          validation_data=(X_test, y_test))     #各エポックの損失関数や評価関数で用いられるタプル

# モデルを評価 --- (*5)
score = model_cnn.evaluate(X_test, y_test, verbose=1)
print('正解率=', score[1], 'loss=', score[0])

# 学習の様子をグラフへ描画 --- (*6)
# 正解率の推移をプロット
plt.plot(hist.history['accuracy'])
plt.plot(hist.history['val_accuracy'])
plt.title('Accuracy')
plt.legend(['train', 'test'], loc='upper left')
plt.show()

# ロスの推移をプロット
plt.plot(hist.history['loss'])
plt.plot(hist.history['val_loss'])
plt.title('Loss')
plt.legend(['train', 'test'], loc='upper left')
plt.show()

結果

Drive already mounted at /content/drive; to attempt to forcibly remount, call drive.mount("/content/drive", force_remount=True).
/usr/local/lib/python3.6/dist-packages/numpy/core/_asarray.py:136: VisibleDeprecationWarning: Creating an ndarray from ragged nested sequences (which is a list-or-tuple of lists-or-tuples-or ndarrays with different lengths or shapes) is deprecated. If you meant to do this, you must specify 'dtype=object' when creating the ndarray
  return array(a, dtype, copy=False, order=order, subok=True)
Epoch 1/12
63/63 [==============================] - 7s 104ms/step - loss: 0.5900 - accuracy: 0.7012
Epoch 2/12
63/63 [==============================] - 6s 102ms/step - loss: 0.4441 - accuracy: 0.8126
Epoch 3/12
63/63 [==============================] - 6s 102ms/step - loss: 0.3286 - accuracy: 0.8648
Epoch 4/12
63/63 [==============================] - 6s 102ms/step - loss: 0.3193 - accuracy: 0.8620
Epoch 5/12
63/63 [==============================] - 6s 101ms/step - loss: 0.2751 - accuracy: 0.8853
Epoch 6/12
63/63 [==============================] - 6s 102ms/step - loss: 0.2461 - accuracy: 0.9049
Epoch 7/12
63/63 [==============================] - 6s 101ms/step - loss: 0.2325 - accuracy: 0.9105
Epoch 8/12
63/63 [==============================] - 6s 102ms/step - loss: 0.2399 - accuracy: 0.8973
Epoch 9/12
63/63 [==============================] - 6s 102ms/step - loss: 0.2260 - accuracy: 0.9130
Epoch 10/12
63/63 [==============================] - 6s 102ms/step - loss: 0.1706 - accuracy: 0.9312
Epoch 11/12
63/63 [==============================] - 6s 101ms/step - loss: 0.1836 - accuracy: 0.9229
Epoch 12/12
63/63 [==============================] - 6s 101ms/step - loss: 0.1668 - accuracy: 0.9363
/usr/local/lib/python3.6/dist-packages/tensorflow/python/keras/utils/generic_utils.py:583: RuntimeWarning: divide by zero encountered in log10
  numdigits = int(np.log10(self.target)) + 1

補足情報（FW/ツールのバージョンなど）

Python(ver. 3.6.9)

Comments

[jbpb0]

関数「create_test_data()」が変です

path = os.path.join(DATADIR)
for image_name in os.listdir(path):
によって、「image_name」には「DATADIR」にあるディレクトリ名やファイル名が入り、
img_array = cv2.imread(os.path.join(path, image_name)...
によって、それらを画像ファイルとして読んでいますが、それは意図通りですか？
本当に「DATADIR」に画像があるのですか？

また、その関数内の
training_data.append([img_resize_array, class_num])
で、「class_num」がいきなり出てきます
(別関数「create_training_data()」では値が代入されてますけど)

[Kaioh]

回答ありがとうございます。
返答が遅くなってしまい申し訳ありません。

DATADIR = "/content/drive/MyDrive/Colab Notebooks/Galaxy_Zoo/Train_Image"
Train_image の中に「face-on」と「edge-on」というファイルがあり、それぞれに画像が含まれています。そして、その画像が読み込まれているのあれば意図通りのはずです。

「class_num」にはしっかり動いていないなど、問題があるのでしょうか？

[jbpb0]

> その画像が読み込まれているのあれば

関数「create_test_data()」は、そうなってません
上にも書きましたが、「DATADIR」にあるファイルを読むようなコードになっています
「face-on」や「edge-on」の中のファイルを読むようには書かれてません

また、「test_data」は
test_data = []
の後に、データが格納されてませんので、中身は空です
関数「create_test_data()」内では、
training_data.append(...
はありますけど、「test_data」には何もしてません
中身が空の「test_data」から作った「X_test, y_test」では評価できません

[jbpb0]

> 「class_num」にはしっかり動いていないなど、問題があるのでしょうか？

Pythonで

import numpy as np
test_data = []
img_resize_array = np.ones((5, 5))
test_data.append([img_resize_array, class_num])

を実行したら、
NameError: name 'class_num' is not defined
というエラーになります
未定義の「class_num」をappendすることはできません

[Kaioh]

> 「face-on」や「edge-on」の中のファイルを読むようには書かれてません

確認したいのですが、create_training_dataでは、「face-on」と「edge-on」のファイルは読まれているのでしょうか？

そして、create_test_dataでは「DATADIR」にパスを代入したはずなのに、なぜパスの元のファイルを読まないのでしょうか？

そして、どのようにすれば「face-on」と「edge-on」のファイルを読ませることができるのでしょうか？

[Kaioh]

class_numに関しては、以下の１行が抜けていたようです。
for class_num, category in enumerate(CATEGORIES):

[jbpb0]

> create_training_dataでは、「face-on」と「edge-on」のファイルは読まれているのでしょうか？

読まれていると思います
for class_num, category in enumerate(CATEGORIES):
path = os.path.join(DATADIR, category)
によって、「CATEGORIES」すなわち「face-on」と「edge-on」が、「DATADIR」と連結されて「path」に代入されてますから

> create_test_dataでは「DATADIR」にパスを代入したはずなのに、なぜパスの元のファイルを読まないのでしょうか？

「DATADIR」は大丈夫ですが、その下の「face-on」と「edge-on」を「DATADIR」に連結するコードが、「create_test_data」にはありません
「path」に代入されてるのは「DATADIR」だけです
「face-on」と「edge-on」があるのが「.../Train_Image」だけで、「.../Test_Image」にはそれらのフォルダが無く、「.../Test_Image」に直接画像ファイルが置いてあるのなら、現在のコードでも大丈夫です

> どのようにすれば「face-on」と「edge-on」のファイルを読ませることができるのでしょうか？

「.../Test_Image」にも「face-on」と「edge-on」があって、画像ファイルはそれらの中にある、という前提で書きます
「create_test_data」内にも、「create_training_data」の下記と同様な処理を追加する必要があります
for class_num, category in enumerate(CATEGORIES):
path = os.path.join(DATADIR, category)

それとは別に、「create_test_data」内の
training_data.append(
を
test_data.append(
に変える必要もあります
そうしないと、「test_data」にデータが追加されません

[Kaioh]

丁寧に説明していただき、ありがとうございます！
自分が見落としてしまっていた部分がよくわかりました。

プログラムの方も無事動きました。
しばらく、わからないままだったので本当に助かりました。

Answer 1

「.../Test_Image」にも「face-on」と「edge-on」があって、画像ファイルはそれらの中にある、という前提で書きます
「create_test_data」内にも、「create_training_data」の下記と同様な処理を追加する必要があります

    for class_num, category in enumerate(CATEGORIES):
        path = os.path.join(DATADIR, category)

それとは別に、「create_test_data」内の

                training_data.append(...

を

                test_data.append(...

に変える必要もあります
そうしないと、「test_data」にデータが追加されません