質問編集履歴
1
問題に対する仮説を立てました
test
CHANGED
|
@@ -1 +1 @@
|
|
|
1
|
-
RNNの逆伝播でdbをsumする理由に関して
|
|
1
|
+
RNNの逆伝播でdbをaxis=0でsumする理由に関して
|
test
CHANGED
|
@@ -17,6 +17,16 @@
|
|
|
17
17
|
|
|
18
18
|
|
|
19
19
|
[手書きでRNNの構成図を書きましたm(_ _)m](https://f.easyuploader.app/eu-prd/upload/20200725203731_6a5931514f69506f705a.jpg)
|
|
20
|
+
|
|
21
|
+
|
|
22
|
+
|
|
23
|
+
■追記(仮説)
|
|
24
|
+
|
|
25
|
+
自分なりに考えてみたところ
|
|
26
|
+
|
|
27
|
+
順伝播でのバイアスの加算は、それぞれのデータ(1個目のデータ、2個目のデータ、...)に対して加算が行われるので逆伝播の際には逆伝搬の値がバイアスの要素に集約される必要があるから「np.sum(dt, axis=0)」となる形ですかね？
|
|
28
|
+
|
|
29
|
+
|
|
20
30
|
|
|
21
31
|
|
|
22
32
|
|