kerasのコードでConv2Dの実行でエラーが発生します

Question

kerasを使用して、CNNによる数値分類のコードを作成しています。
以下実行環境です。

OS：Windows 10
Anaconda Navigator： Ver 1.9.7
keras：Ver.2.1.3
Python：Ver.3.6
tensorflow-gpu：Ver.1.4.0
CUDA：Ver.8.0
cudnn：Ver.6.0

Anaconda上で、以下のコードを実行しました。

import keras
from keras.datasets import mnist
from keras.models import Sequential
from keras.layers import Conv2D, MaxPooling2D
from keras.layers.core import Dropout, Dense
from keras.optimizers import Adam
from keras.utils import np_utils

# mnistのデータをロードする
(x_train, y_train), (x_test, y_test) = mnist.load_data()

TRAIN_NUM = 60000
TEST_NUM = 10000
GASO_NUM = 28 * 28
LABEL_NUM = 10

x_train = x_train.reshape(TRAIN_NUM, GASO_NUM).astype("float32")
x_test = x_test.reshape(TEST_NUM, GASO_NUM).astype("float32")
x_train = x_train / 255.0
x_test = x_test / 255.0

# ラベルは0～9の数字なので0,1の列数10個のデータに変換
y_train = np_utils.to_categorical(y_train, LABEL_NUM)
y_test = np_utils.to_categorical(y_test, LABEL_NUM)

# 各レイヤーを作成する
model = Sequential()

# 出力ニューロンの数
OUT_NUM = 512
# ドロップアウト率
DROP_RATE = 0.2

# 畳み込み層
model.add(Conv2D(filters=512, kernel_size=(5, 5), strides=(1, 1), padding="same", activation="relu", input_shape=(28, 28, 1)))
# MaxPooling層
model.add(MaxPooling2D(pool_size=(2, 2), strides=(1, 1), padding="same"))
# 畳み込み層
model.add(Conv2D(filters=512, kernel_size=(5, 5), strides=(1, 1), padding="same", activation="relu"))
# MaxPooling層
model.add(MaxPooling2D(pool_size=(2, 2), strides=(1, 1), padding="same"))

# 全結合層
model.add(Dense(OUT_NUM, activation="relu"))
model.add(Dropout(DROP_RATE))

# ラベルの読み出し層
model.add(Dense(LABEL_NUM, activation="softmax"))

model.compile(optimizer=Adam(), loss="categorical_crossentropy", metrics=["accuracy"])

# 学習の処理を行う
model.fit(x_train, y_train, batch_size=100, epochs=10)

# 誤差と精度の表示を行う
accuracy = model.evaluate(x_test, y_test, batch_size=100, verbose=1)
print("誤差率：", accuracy[0])
print("正解率：", accuracy[1])

上記コードを実行すると、「model.fit(x_train, y_train, batch_size=100, epochs=10)」のところで、下記のエラーが発生します。

ValueError: Error when checking input: expected conv2d_1_input to have 4 dimensions, but got array with shape (60000, 784)

エラーメッセージを読む限り、Conv2Dは4つの引数を要求しているが、60000、784の2つしか入っていない、と表示されているようです。

しかし、実際Conv2Dには(28, 28, 1)の3つの引数しか渡していないので、何故4つとみなされるのか分かりません。
(28, 28, 1)にした理由としては、読み込む画像の縦と横の大きさが28×28で、チャンネル数が1チャンネルのためです。

エラーメッセージの内容、及び正しい引数の指定方法が分かる方がおられましたら、宜しくお願い致します。

Answer 1

Conv2Dには(batch, height, width, channels)の形でデータが入力されますが、input_shapeにはbatchを明記する必要はなくinput_shape=(28, 28, 1)でこの場合(60000, 28, 28, 1)の形で入力されるはずです。
しかし

x_train = x_train.reshape(TRAIN_NUM, GASO_NUM).astype("float32")

x_test = x_test.reshape(TEST_NUM, GASO_NUM).astype("float32")

で入力データを(60000, 28, 28)から(60000, 784)の形に変換しているためbut got array with shape (60000, 784)のエラーが出ています。
つまりこの部分をx_train = x_train[..., None], xtest = x_test[..., None]に書き換えて入力データを(60000, 28, 28)から(60000, 28, 28, 1)に変えればこのエラーは解決します。

また、全結合層の入力がConv2Dの出力をそのまま受け取っているので次元数が合わずエラーが出るはずです。keras.layer.coreからFlattenをimportし全結合層の前にmodel.add(Flatten())を入れてください。

Comments

[TOMO6181]

御回答ありがとうございます。
仰られる通り、x_trainとx_testのshapeを(60000, 28, 28, 1)、(10000, 28, 28, 1)に修正し、全結合層の前にmodel.add(Flatten())を入れたら無事学習、評価ができました。

Answer 2

shapeを確認してみればすぐにわかります。
プーリング層の入出力は、4次元のテンソルです

# 畳み込み層
model.add(Conv2D(filters=512, kernel_size=(5, 5), strides=(1, 1), padding="same", activation="relu", input_shape=(28, 28, 1)))
# MaxPooling層
model.add(MaxPooling2D(pool_size=(2, 2), strides=(1, 1), padding="same"))
# 畳み込み層
model.add(Conv2D(filters=512, kernel_size=(5, 5), strides=(1, 1), padding="same", activation="relu"))
# MaxPooling層
model.add(MaxPooling2D(pool_size=(2, 2), strides=(1, 1), padding="same"))

print(model.input_shape)
print(model.output_shape)

(None, 28, 28, 1)
(None, 28, 28, 512)

Comments

[TOMO6181]

モデルの入力のshapeと出力のshapeを表示できるのを初めて知りました。
ありがとうございました。

Answer 3

しかし、実際Conv2Dには(28, 28, 1)の3つの引数しか渡していないので、何故4つとみなされるのか分かりません。
(28, 28, 1)にした理由としては、読み込む画像の縦と横の大きさが28×28で、チャンネル数が1チャンネルのためです。

Kerasの場合は、最初の次元はバッチ数で固定になります。
すなわち、(バッチ数, 28, 28, 1)とする必要があります。

Comments

[TOMO6181]

御回答ありがとうございます。
Conv2Dの最初の次元には、固定でバッチ数が入るようになっていたから次元数が4つと見なされていたのですね。