CNNの各層のneuron数(ノード数)と層数と訓練画像の関係

Question

今晩は

DNNをある程度知りたいため、最近時間がある時に懸命に勉強しましたが、
やはり、設計の基本はまだ分かっていない感じです。

まず現在自分の認識が正しいかどうか確認したいのです。

①　CNNの各層(feature map, pooling map )のノード数は入力画像の幅と縦に正比例だと考えば良い
②　CNNの層の数は基本は入力画像の幅と縦と関係なく、学習画像の数に正比例だと考えば良い

のでしょうか。

ご教授お願い致します。

Answer 1

2のほうはモデルの性能がパラメータの数に比例するか…という問いに置き換えてもいいかなと思いかす。そこで、例えばSpeed/accuracy trade-offs for modern convolutional object detectorsのTable 2を見てみると、同じデータセットに対してパラメータの数とモデルの性能が比較されているので、参考になりそうです。大まかな傾向としては、パラメータの数が増えれば性能が上がる、と言えそうではありますが、MobileNetは他よりも規模が小さい割にはパフォーマンスが出ています。

少なくとも正比例する要素はないかなぁ。

Answer 2

1は必ずしも必須ではないですが、まあそういう設計の方が無難でしょう。
2の方はそうは言い切れない部分があると考えます。

---

ざっと考えただけでも、

• 画像の複雑さ（MNISTと物体写真じゃだいぶ違う）
• 分類クラス数（2値分類と1000値分類ではやはり後者のほうが複雑なネットワークを要求されるのでは？　という仮説）

は確実に変数に入ってくるので、難しいなと。

Answer 3

> ①　CNNの各層(feature map, pooling map )のノード数は入力画像の幅と縦に正比例だと考えば良い

総じてみれば、そうでしょう。

**②　CNNの層の数は基本は入力画像の幅と縦と関係なく、学習画像の数に正比例だと考えば良い **

これは微妙？？？？

御存知の方はいらっしゃらないのでしょうか。