CNNの基礎がわからなくなってきました

Question

kerasで以下のようなCNNモデルを作りましたが、考えているうちによくわからなくなってきたので質問させてください。

model = Sequential()

model.add(Conv2D(filters = 32, kernel_size = (5,5), padding = 'same', activation ='relu', input_shape = (28,28,1)))
model.add(Conv2D(filters = 32, kernel_size = (5,5), padding = 'same', activation ='relu'))
model.add(MaxPool2D(pool_size=(2,2)))
model.add(Dropout(0.25))


model.add(Conv2D(filters = 64, kernel_size = (3,3), padding = 'same', activation ='relu'))
model.add(Conv2D(filters = 64, kernel_size = (3,3), padding = 'same', activation ='relu'))
model.add(MaxPool2D(pool_size=(2,2), strides=(2,2)))
model.add(Dropout(0.25))

model.add(Flatten())
model.add(Dense(256, activation = "relu"))
model.add(Dropout(0.25))
model.add(Dense(10, activation = "softmax"))


_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
conv2d_1 (Conv2D)            (None, 28, 28, 32)        832       
_________________________________________________________________
conv2d_2 (Conv2D)            (None, 28, 28, 32)        25632     
_________________________________________________________________
max_pooling2d_1 (MaxPooling2 (None, 14, 14, 32)        0         
_________________________________________________________________
dropout_1 (Dropout)          (None, 14, 14, 32)        0         
_________________________________________________________________
conv2d_3 (Conv2D)            (None, 14, 14, 64)        18496     
_________________________________________________________________
conv2d_4 (Conv2D)            (None, 14, 14, 64)        36928     
_________________________________________________________________
max_pooling2d_2 (MaxPooling2 (None, 7, 7, 64)          0         
_________________________________________________________________
dropout_2 (Dropout)          (None, 7, 7, 64)          0         
_________________________________________________________________
flatten_1 (Flatten)          (None, 3136)              0         
_________________________________________________________________
dense_1 (Dense)              (None, 256)               803072    
_________________________________________________________________
dropout_3 (Dropout)          (None, 256)               0         
_________________________________________________________________
dense_2 (Dense)              (None, 10)                2570      
=================================================================
Total params: 887,530
Trainable params: 887,530
Non-trainable params: 0
_________________________________________________________________

(28, 28, 1)の入力に対し、5×5のフィルター32枚で畳み込み演算をすることで(28, 28, 32)の行列が出力されるところはわかるのですが、その後さらに5×5×32のフィルター32枚で畳み込みをすると、(28, 28, 32×32)といった形状になるのではと思うのですが、(28, 28, 32)となっています。私の考え方のどこが間違っているのか指摘していただけないでしょうか？

Answer 1

入力のチャンネル数にかかわらず1枚のフィルタの出力は (OUT_H, OUT_W, 1) です。
例えば、フィルタが32枚あったら、(OUT_H, OUT_W, 32) がその畳込み層の出力です。

上記が1つのフィルタによる出力の様子

追記

数式で表した場合

Comments

[nouken]

回答ありがとうございます。チャネル方向に足し合わせるということでしょうか？

[tiitoi]

足し合わせるのではなく、結合したものが次の畳み込み層の入力になります。

[nouken]

例えば(28, 28, 32)の入力に対して、(5, 5, 32)のフィルターでたたみこむと、フィルターが移動する毎に5*5*32の（入力の各要素）と（フィルターの各要素）を掛け合わせたものが出てくると思うのですが、これらは足し合わせて、出力の一つの要素になるのではないのでしょうか？

[tiitoi]

> 出力の一つの要素になるのではないのでしょうか？

それは1枚のフィルタが出力の要素1つを計算する際の話です。
結合するといっているのは、フィルタがN枚あったとき、 (OUT_H, OUT_W, 1) の配列がN個出力されるので、これをチャンネル方向に結合して ((OUT_H, OUT_W, N) として畳み込み層全体の出力とするということです。
数式表現を追記しました。

[nouken]

理解できました、ありがとうございました！