CNNの重みづけとフィルター、ReLU関数について

Question

CNNで扱われる重みづけとフィルターですが、その中身の値はどのように決まるのですか？
例えばCIFAR-10のような32x32x3の画像で、フィルターの設定を大きさ3x3で32枚にした場合、それぞれの値はどうなりますか？

また、畳み込みされた特徴マップにReLU関数を入れる意味がよくわかっていません。特徴マップにマイナスの値が入ることはないように思えるのですが、必要なのでしょうか？

Answer 1

重みづけとフィルターですが、その中身の値はどのように決まるのですか？

データで学習させて決めます。
（というか話の順序が逆で、問題が解けるように値を更新していくことを学習と呼んでいる、という認識の方が正しいでしょうけど）

特徴マップにマイナスの値が入ることはないように思えるのですが、

重みやバイアスが負である可能性があります。

Comments

[OWATA0723hk]

学習結果によって重みが変わってくるとなると、初期値はどうなっているのですか？

[quickquip]

乱数ですね。
研究論文なら"こういう乱数（分布とかの話です）で初期化した"みたいなことが書いてあったりしますし、このタスク/ネットワークの構造にはこういう乱数がいいみたいなこと自体が研究になってたりすると思いますよ。