回答編集履歴
1
追記
answer
CHANGED
|
@@ -1,2 +1,8 @@
|
|
|
1
1
|
基本的にはReLUです。勾配消失のしようがない。もちろんちょうど0の点で微分できなくなる訳ですが、そもそも計算機でやる時点で離散値で計算してるんですから、工学的にはどうでも良いんです。
|
|
2
|
-
あと、画像で性能が出るようになったのはやはり畳み込みの力でしょうし、「非連続関数関数に基本は向いていない」のをカバーできるくらいたくさんのデータを突っ込んだりして汎化性能を確保できるようになったことも大切ですから、計算機の性能アップも意外と馬鹿にはできません。
|
|
2
|
+
あと、画像で性能が出るようになったのはやはり畳み込みの力でしょうし、「非連続関数関数に基本は向いていない」のをカバーできるくらいたくさんのデータを突っ込んだりして汎化性能を確保できるようになったことも大切ですから、計算機の性能アップも意外と馬鹿にはできません。
|
|
3
|
+
|
|
4
|
+
### 追記
|
|
5
|
+
ちょっと古いですが、こんな解説があってわかりやすかったです。
|
|
6
|
+
[https://www.jstage.jst.go.jp/article/jrsj/33/2/33_33_92/_pdf](https://www.jstage.jst.go.jp/article/jrsj/33/2/33_33_92/_pdf)
|
|
7
|
+
|
|
8
|
+
事前学習（今は廃れた手法だが・・・）と畳み込みで結合が疎になるのが効いている、ということらしいです。
|