teratail header banner
teratail header banner
質問するログイン新規登録

回答編集履歴

1

d

2018/11/14 07:47

投稿

tiitoi
tiitoi

スコア21960

answer CHANGED
@@ -17,4 +17,16 @@
17
17
  3. [D, F] を流して、順伝搬、逆伝搬で重み更新
18
18
  4. 1~3 で1エポック、これを指定エポック分繰り返す。
19
19
 
20
- となります。
20
+ となります。
21
+
22
+ ## 追記
23
+
24
+ 学習の際のバッチサイズは 32, 64, 128 などがよく使われますね。
25
+ 一概に学習がうまくいく大きさをいろいろ試してみるとよいと思います。
26
+
27
+ 大きくするメリット
28
+ - 計算時間が早くなる。一度に大量のデータを処理したほうが効率がいい。
29
+
30
+ 大きくするデメリット
31
+ - 必要がメモリ量が増える。大きくしすぎるとメモリの乗り切らなくてエラー。
32
+ - 局所解に陥り、学習が停滞する可能性がある。(バッチ勾配降下法の仕組み)