「ゼロから作るディープラーニング」7章でつまずました。

Question

前提・実現したいこと

「ゼロから作るディープラーニング」
７章
畳み込みニューラルネットワーク
でSampleCodeは実行できましたが、入力画像を変えて
120（高さ）ｘ160（幅）の画像を入力して
train_covnet.pyを実行すると
演算途中でエラーで停止します。

発生している問題・エラーメッセージ

SimpleConvNetで
class Affine
def forward
out = np.dot(self.x self.W) + self.b
部分の行列の内積で　dimが合っていないようです。

画像のH=60 W=160　条件化のエラーコード　ValueError: shapes (100,19656) and (7056,2000) not aligned: 19656 (dim 1) != 7056 (dim 0)
場所は以下 trainer.train()/self.train_step()/self.loss(x, t)/y = self.predict(x)/x = layer.forward(x)/out = np.dot(self.x, self.W) + self.b

該当のソースコード

SimpleConvNetの設定は

network＝SimpleConvNet(input_dim=(1,60,160),conv_param = {'filter_num': 9, 'filter_size': 5, 'pad': 0, 'stride': 1}, hidden_size=2000, output_size=4, weight_init_std=0.01)

trainer = Trainer(network, x_train, t_train, x_test, t_test,
epochs=max_epochs, mini_batch_size=100,
optimizer='Adam', optimizer_param={'lr': 0.001},
evaluate_sample_num_per_epoch=1000)
trainer.train()

試したこと

幾つかのパラメーターを　振って、エラーログを見てみました。
計算方程式を作り、満たす解をもとめてみましたが　ありませんでした。

全結合の入力は
W＝　係数ｘpool_out_size,hidden_sizeで決定されます。
def forward
out = np.dot(self.x self.W) + self.b
のｘは、エラーログからｘのサイズは、
①filter_num
②入力画像のW,H
③filter_size
④Pad
⑤strideに依存しますが
今はpad=0 stride=1にしているので依存は①－③までです。

sample Codeだと高さ＝幅の画像しか扱えないような
計算式になっているように思えますが、何か
これを打開する方法はありますでしょうか？

補足情報（FW/ツールのバージョンなど）

少しだけ、不思議なのは、ここでは、Wはpool_out_sizeで規定される
し、CONVの出力もpool_out_sizeですが、
out = np.dot(self.x self.W) + self.b
はｘは入力画像をもとに計算された大きさになっている事です。
つまり入力画像をもとに計算された値とWの内積をしている事です。

Python 3.6.1
Ubuntu 16.04 LTS

Comments

[wakame]

出力されたエラーコードを追記してください

[mkgrei]

コードを```で囲ってください。

[y_waiwai]

初心者本の内容なんかエキスパートなひとは知らんだろうし、内容知ってるような初心者は答えれないだろうしというジレンマ

[wakame]

CNNでwidthとheightの値が異なるというのが気になりました。

[退会済みユーザー]

縦横比が合うようにcv2.resizeで画像をリサイズするのは邪道ですか？ネットワーク構造を変えるよりたぶんバグりにくいので安全でシンプルで思い立ってから実装するまでが速い気がします。画像が多少歪んでいても、学習枚数が多ければちゃんと理解してくれそうな気がしますが...

Answer 1

教科書のサンプルコード⇒画像size,オペレータsize,Pad_size,の演算式からなりpool_out_sizeをH方向の値からのみで求めてました。（だから、H方向W方向同じサイズでないと上手く動作しませんでした）今回は、縦横が違うので、それぞれ求める必要があると理解しまた。H方向　W方向それぞれに値を計算し、pool_output_sizeを計算したところ上手く動きました。

教科書のサンプルコードは

input_size = input_dim[1]
conv_output_size = (input_size - filter_size + 2*filter_pad) / filter_stride +1
pool_output_size = int(filter_num * (conv_output_size/2) * (conv_output_size/2))

修正は

input_size1 = input_dim[1]
input_size2 = input_dim[2]
conv_output_size1 = (input_size1 - int(filter_size / 2) * 2 + 2 * filter_pad) / filter_stride
conv_output_size2 = (input_size2 - int(filter_size / 2) * 2 + 2 * filter_pad) / filter_stride　pool_output_size = int(filter_num * (conv_output_size1 / 2) * (conv_output_size2 / 2))

注意点：偶数のオペレータ（この教科書ではフィルター）は未確認です。
一般的なオペレーターは画像を余らせないため奇数なので２で割り両サイドのため２を掛けています。このため教科書にある＋１はしていません。