回答編集履歴
2
Auto encoderと勾配消失の話も追加
test
CHANGED
|
@@ -25,3 +25,13 @@
|
|
|
25
25
|
http://terada-h.hatenablog.com/entry/2016/12/13/192940
|
|
26
26
|
|
|
27
27
|
こちらも読んでみてください。
|
|
28
|
+
|
|
29
|
+
|
|
30
|
+
|
|
31
|
+
---
|
|
32
|
+
|
|
33
|
+
さらに追記するとAuto Encoderも勾配消失問題の対応策として有効だったようですね
|
|
34
|
+
|
|
35
|
+
https://deepage.net/deep_learning/2016/10/09/deeplearning_autoencoder.html
|
|
36
|
+
|
|
37
|
+
ただ100億という膨大な層につかえるかはよくわかりません。
|
1
ResNetmojy
test
CHANGED
|
@@ -15,3 +15,13 @@
|
|
|
15
15
|
|
|
16
16
|
|
|
17
17
|
④は本議題とは関係ないですね。NNでは多くの行列計算を行いますが、その計算速度がGPUのほうがCPUより速いというだけです。（だけ、とはいってもそれが重要なのですが）
|
|
18
|
+
|
|
19
|
+
|
|
20
|
+
|
|
21
|
+
---
|
|
22
|
+
|
|
23
|
+
ちなみにですが、ResNetも重要な概念の一つですので関連するpageを紹介しておきます
|
|
24
|
+
|
|
25
|
+
http://terada-h.hatenablog.com/entry/2016/12/13/192940
|
|
26
|
+
|
|
27
|
+
こちらも読んでみてください。
|