質問編集履歴
6
layer=self.l1のみ使用を追加
test
CHANGED
File without changes
|
test
CHANGED
@@ -108,9 +108,19 @@
|
|
108
108
|
|
109
109
|
|
110
110
|
|
111
|
-
###
|
111
|
+
###Adamの挙動確認 layer =self.l1のみ(Sigmoid不使用)、BCEWithLogitsLoss使用
|
112
|
+
|
113
|
+
|
114
|
+
|
112
|
-
|
115
|
+
####Adam デフォルト エポック数 500
|
116
|
+
|
113
|
-
|
117
|
+
![イメージ説明](7410422a9f020311269d264699d8dd2f.png)
|
118
|
+
|
119
|
+
|
120
|
+
|
121
|
+
####Adam デフォルト エポック数 2000
|
122
|
+
|
123
|
+
![イメージ説明](84091cf033d83192f6fa1a728de254c1.png)
|
114
124
|
|
115
125
|
|
116
126
|
|
5
BCEWithLogitsLossの場合を追加
test
CHANGED
File without changes
|
test
CHANGED
@@ -30,6 +30,8 @@
|
|
30
30
|
|
31
31
|
|
32
32
|
|
33
|
+
###BCELoss使用
|
34
|
+
|
33
35
|
####SGD lr =0.005 エポック数 500
|
34
36
|
|
35
37
|
![イメージ説明](ba6eab1bb6760afd0b963183680a8361.png)
|
@@ -58,13 +60,55 @@
|
|
58
60
|
|
59
61
|
####Adam デフォルト エポック数 500
|
60
62
|
|
61
|
-
![イメージ説明](
|
63
|
+
![イメージ説明](1d12376d83af79394803874962518322.png)
|
62
64
|
|
63
65
|
|
64
66
|
|
65
67
|
####Adam デフォルト エポック数 2000
|
66
68
|
|
69
|
+
![イメージ説明](6de6ad6550c7e28768b577c11398246e.png)
|
70
|
+
|
71
|
+
|
72
|
+
|
73
|
+
###--------------------------追記(修正依頼参照)--------------------------
|
74
|
+
|
75
|
+
### BCEWithLogitsLoss使用
|
76
|
+
|
77
|
+
####SGD lr =0.005 エポック数 500
|
78
|
+
|
79
|
+
![イメージ説明](5a7eca650e3207b482664089b62b1960.png)
|
80
|
+
|
81
|
+
####SGD lr =0.005 エポック数 2000
|
82
|
+
|
83
|
+
![イメージ説明](84e8f4dc1015ce00a0c3e8c2182b49c2.png)
|
84
|
+
|
85
|
+
|
86
|
+
|
87
|
+
####SGD lr =0.001 エポック数 500
|
88
|
+
|
67
|
-
![イメージ説明](
|
89
|
+
![イメージ説明](0b7a084c4c3d3a13c6165f842e6395c3.png)
|
90
|
+
|
91
|
+
|
92
|
+
|
93
|
+
####SGD lr =0.001 エポック数 2000
|
94
|
+
|
95
|
+
![イメージ説明](3ac3f2faeecedb4aa3dc39f4457d87c2.png)
|
96
|
+
|
97
|
+
|
98
|
+
|
99
|
+
####Adam デフォルト エポック数 500
|
100
|
+
|
101
|
+
![イメージ説明](6f39520781e01b9e18794ad088a3f445.png)
|
102
|
+
|
103
|
+
|
104
|
+
|
105
|
+
####Adam デフォルト エポック数 2000
|
106
|
+
|
107
|
+
![イメージ説明](15e02ed301b09b376bda9a8ab9c2ec90.png)
|
108
|
+
|
109
|
+
|
110
|
+
|
111
|
+
###--------------------------追記終了--------------------------
|
68
112
|
|
69
113
|
|
70
114
|
|
4
エポック数が2000の場合を追記
test
CHANGED
File without changes
|
test
CHANGED
@@ -30,24 +30,46 @@
|
|
30
30
|
|
31
31
|
|
32
32
|
|
33
|
-
####SGD lr =0.005
|
33
|
+
####SGD lr =0.005 エポック数 500
|
34
34
|
|
35
35
|
![イメージ説明](ba6eab1bb6760afd0b963183680a8361.png)
|
36
36
|
|
37
37
|
|
38
38
|
|
39
|
+
####SGD lr =0.005 エポック数 2000
|
40
|
+
|
41
|
+
![イメージ説明](4f9bac6f07df1ed2623332db7399cb3d.png)
|
42
|
+
|
43
|
+
|
44
|
+
|
45
|
+
|
46
|
+
|
39
|
-
####SGD lr =0.001
|
47
|
+
####SGD lr =0.001 エポック数 500
|
40
48
|
|
41
49
|
![イメージ説明](779c52ccf86ee31111711b436a54d6e1.png)
|
42
50
|
|
43
51
|
|
44
52
|
|
53
|
+
####SGD lr =0.001 エポック数 2000
|
54
|
+
|
55
|
+
![イメージ説明](ce65f311c87f95573a6989044123ffa6.png)
|
56
|
+
|
57
|
+
|
58
|
+
|
45
|
-
####Adam デフォルト
|
59
|
+
####Adam デフォルト エポック数 500
|
46
60
|
|
47
61
|
![イメージ説明](e56bc12839fafedf9ab08974ab4064e9.png)
|
48
62
|
|
49
63
|
|
50
64
|
|
65
|
+
####Adam デフォルト エポック数 2000
|
66
|
+
|
67
|
+
![イメージ説明](5bd70400e876fb8d10adc5f06d4da5a3.png)
|
68
|
+
|
69
|
+
|
70
|
+
|
71
|
+
|
72
|
+
|
51
73
|
### 該当のソースコード
|
52
74
|
|
53
75
|
|
3
Adamをデフォルト値に変更
test
CHANGED
File without changes
|
test
CHANGED
@@ -42,11 +42,9 @@
|
|
42
42
|
|
43
43
|
|
44
44
|
|
45
|
-
####Adam
|
45
|
+
####Adam デフォルト
|
46
|
-
|
46
|
+
|
47
|
-
![イメージ説明](b1
|
47
|
+
![イメージ説明](e56bc12839fafedf9ab08974ab4064e9.png)
|
48
|
-
|
49
|
-
|
50
48
|
|
51
49
|
|
52
50
|
|
2
Adamの結果と、SGDの結果(デフォルト)を記載
test
CHANGED
File without changes
|
test
CHANGED
@@ -30,9 +30,25 @@
|
|
30
30
|
|
31
31
|
|
32
32
|
|
33
|
-
|
33
|
+
####SGD lr =0.005
|
34
|
-
|
34
|
+
|
35
|
-
![イメージ説明](a
|
35
|
+
![イメージ説明](ba6eab1bb6760afd0b963183680a8361.png)
|
36
|
+
|
37
|
+
|
38
|
+
|
39
|
+
####SGD lr =0.001
|
40
|
+
|
41
|
+
![イメージ説明](779c52ccf86ee31111711b436a54d6e1.png)
|
42
|
+
|
43
|
+
|
44
|
+
|
45
|
+
####Adam lr =0.001
|
46
|
+
|
47
|
+
![イメージ説明](b168e7aadb896662c08d84ec8eb3c46f.png)
|
48
|
+
|
49
|
+
|
50
|
+
|
51
|
+
|
36
52
|
|
37
53
|
### 該当のソースコード
|
38
54
|
|
1
SGDではなく、Adamになっていたため、SGDで修正
test
CHANGED
File without changes
|
test
CHANGED
@@ -30,9 +30,9 @@
|
|
30
30
|
|
31
31
|
|
32
32
|
|
33
|
+
|
34
|
+
|
33
|
-
![イメージ説明](d
|
35
|
+
![イメージ説明](ad4f91f1727eacc19ac7d57f0922632f.png)
|
34
|
-
|
35
|
-
|
36
36
|
|
37
37
|
### 該当のソースコード
|
38
38
|
|
@@ -94,7 +94,7 @@
|
|
94
94
|
|
95
95
|
|
96
96
|
|
97
|
-
optimizers = optimizers.
|
97
|
+
optimizers = optimizers.SGD(model.parameters(),lr=0.005)
|
98
98
|
|
99
99
|
```
|
100
100
|
|