質問編集履歴
7
修正
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -44,7 +44,15 @@
|
|
|
44
44
|
|
|
45
45
|
|
|
46
46
|
|
|
47
|
-
" mini-batch = iteration =
|
|
47
|
+
" mini-batch = n iteration = n次のparameters 更新 = n step towards minimizing the loss function."
|
|
48
|
+
|
|
49
|
+
|
|
50
|
+
|
|
51
|
+
n = 1 : 通常
|
|
52
|
+
|
|
53
|
+
n > 1 : 総学習sample数が小さすぎの場合
|
|
54
|
+
|
|
55
|
+
|
|
48
56
|
|
|
49
57
|
|
|
50
58
|
|
6
追加
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -40,36 +40,46 @@
|
|
|
40
40
|
|
|
41
41
|
|
|
42
42
|
|
|
43
|
-
【Note】
|
|
43
|
+
【Note】
|
|
44
44
|
|
|
45
45
|
|
|
46
46
|
|
|
47
|
-
|
|
47
|
+
" mini-batch = iteration = one step towards minimizing the loss function."
|
|
48
48
|
|
|
49
49
|
|
|
50
50
|
|
|
51
|
-
むー、「repeat」とは
|
|
51
|
+
むー、「repeat」とは各一枚画像に対するrepeat？ ではなさそう。。。
|
|
52
52
|
|
|
53
53
|
repeat ≠ iteration ?
|
|
54
54
|
|
|
55
55
|
複数のiteration = repeat?
|
|
56
56
|
|
|
57
|
-
複数のrepeat = iteration?
|
|
57
|
+
複数のrepeat = iteration?
|
|
58
58
|
|
|
59
59
|
|
|
60
60
|
|
|
61
|
-
でも、repeat と iteration は 言語的に同じ意味なのに、、、
|
|
61
|
+
でも、repeat と iteration は 言語的に同じ意味なのに、、、
|
|
62
62
|
|
|
63
63
|
|
|
64
64
|
|
|
65
65
|
"By default, the software shuffles the data once before training."
|
|
66
66
|
|
|
67
|
-
shufflesとは
|
|
67
|
+
shufflesとは総sampleに対して行う、即ちepoch 毎にシャッフルされる。
|
|
68
68
|
|
|
69
|
+
|
|
70
|
+
|
|
69
|
-
＝＝＝＝＝＝＝＝＝
|
|
71
|
+
＝＝＝＝＝＝＝＝＝
|
|
72
|
+
|
|
73
|
+
|
|
74
|
+
|
|
75
|
+
**総sample = 1 epoch** これは明確！
|
|
76
|
+
|
|
77
|
+
「epochの繰り返し」は**repeat** と言うの？
|
|
78
|
+
|
|
79
|
+
|
|
70
80
|
|
|
71
81
|
どっち？
|
|
72
82
|
|
|
73
|
-
|
|
83
|
+
総samples ＝ 1 batch ➡ 複数の mini-batch
|
|
74
84
|
|
|
75
|
-
|
|
85
|
+
総samples ＝ 複数の batch ➡ さらに複数の mini-batch
|
5
追加
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -59,3 +59,17 @@
|
|
|
59
59
|
|
|
60
60
|
|
|
61
61
|
でも、repeat と iteration は 言語的に同じ意味なのに、、、
|
|
62
|
+
|
|
63
|
+
|
|
64
|
+
|
|
65
|
+
"By default, the software shuffles the data once before training."
|
|
66
|
+
|
|
67
|
+
shufflesとは**総sampleに対して**行う、即ち**epoch 毎にシャッフル**される。
|
|
68
|
+
|
|
69
|
+
＝＝＝＝＝＝＝＝＝
|
|
70
|
+
|
|
71
|
+
どっち？
|
|
72
|
+
|
|
73
|
+
**総samples ＝ 1 batch ➡ 複数の mini-batch**
|
|
74
|
+
|
|
75
|
+
**総samples ＝ 複数の batch ➡ さらに複数の mini-batch**
|
4
追加
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -37,3 +37,25 @@
|
|
|
37
37
|
どれでしょうか。
|
|
38
38
|
|
|
39
39
|
#どうぞ宜しくお願い致します。
|
|
40
|
+
|
|
41
|
+
|
|
42
|
+
|
|
43
|
+
【Note】
|
|
44
|
+
|
|
45
|
+
|
|
46
|
+
|
|
47
|
+
** " mini-batch = iteration = one step towards minimizing the loss function."**
|
|
48
|
+
|
|
49
|
+
|
|
50
|
+
|
|
51
|
+
むー、「repeat」とは**各一枚画像に対するrepeat**？ ではなさそう。。。
|
|
52
|
+
|
|
53
|
+
repeat ≠ iteration ?
|
|
54
|
+
|
|
55
|
+
複数のiteration = repeat?
|
|
56
|
+
|
|
57
|
+
複数のrepeat = iteration?
|
|
58
|
+
|
|
59
|
+
|
|
60
|
+
|
|
61
|
+
でも、repeat と iteration は 言語的に同じ意味なのに、、、
|
3
訂正
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -12,7 +12,7 @@
|
|
|
12
12
|
|
|
13
13
|
|
|
14
14
|
|
|
15
|
-
２．さらに、１batchを**P**個の**mini-batch**に分割----この時：**P**は "Subdivision"
|
|
15
|
+
２．さらに、１batchを**P**個の**mini-batch**に分割----この時：**P**は "Subdivision"と呼ぶ ? ですよね！
|
|
16
16
|
|
|
17
17
|
**mini-batch**に含まれる画像の数 **Q** = N/P
|
|
18
18
|
|
|
@@ -36,4 +36,4 @@
|
|
|
36
36
|
|
|
37
37
|
どれでしょうか。
|
|
38
38
|
|
|
39
|
-
#宜しくお願い致します。
|
|
39
|
+
#どうぞ宜しくお願い致します。
|
2
変更
test
CHANGED
|
@@ -1 +1 @@
|
|
|
1
|
-
NDD 訓練プロセスに関する初歩的な質問
|
|
1
|
+
CNN・NDD 訓練プロセスに関する初歩的な質問
|
test
CHANGED
|
@@ -6,31 +6,31 @@
|
|
|
6
6
|
|
|
7
7
|
まず、学習画像サンプルの分割に関する確認事項２件：
|
|
8
8
|
|
|
9
|
-
１．L個の学習画像サンプルをM個のbatchに分割:
|
|
9
|
+
１．**L**個の学習画像サンプルを**M**個のbatchに分割:
|
|
10
10
|
|
|
11
|
-
1 batchに N = L/M 個画像がある。
|
|
11
|
+
1 batchに **N** = L/M 個画像がある。
|
|
12
12
|
|
|
13
13
|
|
|
14
14
|
|
|
15
|
-
２．１batchをP個のmini-batchに分割----この時：Pは "Subdivision"を呼ぶ ? ですよね！
|
|
15
|
+
２．さらに、１batchを**P**個の**mini-batch**に分割----この時：**P**は "Subdivision"を呼ぶ ? ですよね！
|
|
16
16
|
|
|
17
|
-
mini-batchに含まれる画像の数 Q = N/P
|
|
17
|
+
**mini-batch**に含まれる画像の数 **Q** = N/P
|
|
18
18
|
|
|
19
19
|
|
|
20
20
|
|
|
21
|
-
上記
|
|
21
|
+
上記理解が正しいかどうか、まずお伺いしたいですが、
|
|
22
|
-
|
|
23
|
-
|
|
24
22
|
|
|
25
23
|
問題がなければ、同じ学習画像セットに対する**繰り返し学習**する必要らしいので、
|
|
26
24
|
|
|
27
25
|
その**繰り返しの単位**を教えていただきたいのです：
|
|
28
26
|
|
|
29
|
-
① mini-batch中の一つ一つの画像に対してiteration/repeatする；
|
|
30
27
|
|
|
31
|
-
② mini-batch分の画像に対するiteration/repeat処理する；
|
|
32
28
|
|
|
29
|
+
**①** mini-batch中の一つ一つの画像に対してiteration/repeatする；
|
|
30
|
+
|
|
31
|
+
**②** mini-batch分の画像に対するiteration/repeat処理する；
|
|
32
|
+
|
|
33
|
-
③ batch分の画像に対するiteration/repeat処理する
|
|
33
|
+
**③** batch分の画像に対するiteration/repeat処理する
|
|
34
34
|
|
|
35
35
|
|
|
36
36
|
|
1
修正
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -4,7 +4,7 @@
|
|
|
4
4
|
|
|
5
5
|
#
|
|
6
6
|
|
|
7
|
-
まず確認事項２件：
|
|
7
|
+
まず、学習画像サンプルの分割に関する確認事項２件：
|
|
8
8
|
|
|
9
9
|
１．L個の学習画像サンプルをM個のbatchに分割:
|
|
10
10
|
|