質問編集履歴
2
初期重みの設定方法を変更
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -20,9 +20,9 @@
|
|
|
20
20
|
|
|
21
21
|
|
|
22
22
|
|
|
23
|
-
畳み込み及びパーセプトロン部分での重みの初期値は
|
|
23
|
+
畳み込み及びパーセプトロン部分での重みの初期値は、平均0、分散(1/ユニット数)の正規分布に従う乱数で設定しました。
|
|
24
24
|
|
|
25
|
-
まだミニバッジの実装方法を理解していないのでオンライン学習を行っています（画像を1枚読むたびに重みを更新しています）。
|
|
25
|
+
まだミニバッジの実装方法を理解していないのでオンライン学習を行っています（画像を1枚読むたびに重みを更新しています）。ランダムに15000枚学習させています。
|
|
26
26
|
|
|
27
27
|
ドロップアウトもまだ勉強不足で入れていません。
|
|
28
28
|
|
1
補足の追加
test
CHANGED
|
@@ -1 +1 @@
|
|
|
1
|
-
MNISTに誤差逆伝播法を実装した
|
|
1
|
+
MNISTに誤差逆伝播法を実装したが精度が下がる(C#)
|
test
CHANGED
|
@@ -96,7 +96,7 @@
|
|
|
96
96
|
|
|
97
97
|
{
|
|
98
98
|
|
|
99
|
-
WeightOut[i][j] -= LearningRate * DeltaOut[i] *
|
|
99
|
+
WeightOut[i][j] -= LearningRate * DeltaOut[i] * PixelValueOut[j]; //PixelValueOut = 隠れ層から出力層へ向かう値
|
|
100
100
|
|
|
101
101
|
}
|
|
102
102
|
|
|
@@ -114,7 +114,7 @@
|
|
|
114
114
|
|
|
115
115
|
{
|
|
116
116
|
|
|
117
|
-
WeightHidden[i][j] -= LearningRate * DeltaHidden[i] *
|
|
117
|
+
WeightHidden[i][j] -= LearningRate * DeltaHidden[i] * PixelValueHidden[j]; //PixelValueHidden = 入力層から隠れ層へ向かう値
|
|
118
118
|
|
|
119
119
|
}
|
|
120
120
|
|