質問編集履歴
5
文章修正
test
CHANGED
File without changes
|
test
CHANGED
@@ -52,11 +52,11 @@
|
|
52
52
|
|
53
53
|
```
|
54
54
|
|
55
|
-
|
55
|
+
### 出力のイメージ
|
56
56
|
|
57
|
-
|
57
|
+
datasizeは40個の要素が入ったベクトルが1000個、batch_size=2であれば、2組500セット返ってくることをイメージ
|
58
58
|
|
59
|
-
[[1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],1.0]・・・・
|
59
|
+
[[1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],1.0],[[1, 0, 1, 0, 0, 1, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 1, 0, 0, 1, 0, 0, 1, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 1],0.0]・・・・
|
60
60
|
|
61
61
|
|
62
62
|
|
4
文章修正
test
CHANGED
File without changes
|
test
CHANGED
@@ -54,9 +54,9 @@
|
|
54
54
|
|
55
55
|
datasizeは40個の要素が入ったdata1000個あるとして、
|
56
56
|
|
57
|
-
下記のよう
|
57
|
+
下記のような40個の値が入ったベクトルがbatch_size=2なので2組、500セット返ってくることをイメージしてたのですが、
|
58
58
|
|
59
|
-
[[1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],1.0]・・・・
|
59
|
+
[[1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],1.0]・・・・
|
60
60
|
|
61
61
|
|
62
62
|
|
3
改行などを修正
test
CHANGED
File without changes
|
test
CHANGED
@@ -6,31 +6,31 @@
|
|
6
6
|
|
7
7
|
ID CLS VAL (VALに0、1が40個入っています)
|
8
8
|
|
9
|
-
0 0 1,0,0,0,0,0,0,1,0,0,0,1,0,0,1,1,1,0,1,1,1,1,1,0
|
9
|
+
0 0 1,0,0,0,0,0,0,1,0,0,0,1,0,0,1,1,1,0,1,1,1,1,1,0
|
10
10
|
|
11
|
-
1 0 1,0,0,0,0,0,0,1,0,0,0,1,1,0,1,1,1,0,1,0,1,1,1,0
|
11
|
+
1 0 1,0,0,0,0,0,0,1,0,0,0,1,1,0,1,1,1,0,1,0,1,1,1,0
|
12
12
|
|
13
|
-
2 1 1,0,0,0,1,0,0,0,0,0,0,1,0,0,1,0,1,0,0,1,0,1,1,0
|
13
|
+
2 1 1,0,0,0,1,0,0,0,0,0,0,1,0,0,1,0,1,0,0,1,0,1,1,0
|
14
14
|
|
15
|
-
3 0 1,0,0,0,0,0,0,0,0,0,0,1,1,0,1,1,1,0,1,1,1,0,1,0
|
15
|
+
3 0 1,0,0,0,0,0,0,0,0,0,0,1,1,0,1,1,1,0,1,1,1,0,1,0
|
16
16
|
|
17
|
-
4 0 1,0,0,1,0,0,0,1,0,0,0,1,1,0,1,1,0,0,1,1,1,1,1,0
|
17
|
+
4 0 1,0,0,1,0,0,0,1,0,0,0,1,1,0,1,1,0,0,1,1,1,1,1,0
|
18
18
|
|
19
|
-
... ... ...
|
19
|
+
... ... ...
|
20
20
|
|
21
|
-
995 0 1,0,0,1,0,0,0,1,0,0,0,1,1,0,1,1,1,0,1,1,1,1,1,0
|
21
|
+
995 0 1,0,0,1,0,0,0,1,0,0,0,1,1,0,1,1,1,0,1,1,1,1,1,0
|
22
22
|
|
23
|
-
996 1 1,0,0,0,0,0,0,1,0,0,0,1,1,0,1,0,0,0,1,0,1,0,1,0
|
23
|
+
996 1 1,0,0,0,0,0,0,1,0,0,0,1,1,0,1,0,0,0,1,0,1,0,1,0
|
24
24
|
|
25
|
-
997 0 1,0,0,0,1,0,0,1,0,0,0,1,1,0,1,1,1,0,0,0,1,1,0,0
|
25
|
+
997 0 1,0,0,0,1,0,0,1,0,0,0,1,1,0,1,1,1,0,0,0,1,1,0,0
|
26
26
|
|
27
|
-
998 1 1,0,0,0,0,0,0,1,0,0,0,1,1,0,1,0,1,0,0,1,1,1,0,0
|
27
|
+
998 1 1,0,0,0,0,0,0,1,0,0,0,1,1,0,1,0,1,0,0,1,1,1,0,0
|
28
28
|
|
29
|
-
999 1 1,0,0,0,1,0,0,1,0,0,0,1,1,0,1,1,0,1,0,1,1,0,0,0
|
29
|
+
999 1 1,0,0,0,1,0,0,1,0,0,0,1,1,0,1,1,0,1,0,1,1,0,0,0
|
30
30
|
|
31
|
-
IDとVALをdataとしてlistに[[1, 0, 1,
|
31
|
+
[ID]と[VAL]を[data]としてlistに-->[[1, 0, 1,・・・・0, 1, 0, 1, 0, 1]、[1, 0, 0, ・・・・0, 0, 0,]・・ ]]
|
32
32
|
|
33
|
-
CLSをlabelとしてlistに[[0],[1],[0],・・・・・・]]
|
33
|
+
[CLS]をlabelとして[list]に-->[[0],[1],[0],・・・・・・]]
|
34
34
|
|
35
35
|
Datasetでは、 returnで data,label を1組ずつ返してます。
|
36
36
|
|
2
csvの中身について追記しました。説明不足ですみません。
test
CHANGED
File without changes
|
test
CHANGED
@@ -1,6 +1,38 @@
|
|
1
1
|
# DataLoaderのふるまいの正解がわからない
|
2
2
|
|
3
3
|
PyTorchで自作のDetasetを作ってDataLoaderに渡して中身の確認をしています。
|
4
|
+
|
5
|
+
CSVの中身です。
|
6
|
+
|
7
|
+
ID CLS VAL (VALに0、1が40個入っています)
|
8
|
+
|
9
|
+
0 0 1,0,0,0,0,0,0,1,0,0,0,1,0,0,1,1,1,0,1,1,1,1,1,0
|
10
|
+
|
11
|
+
1 0 1,0,0,0,0,0,0,1,0,0,0,1,1,0,1,1,1,0,1,0,1,1,1,0
|
12
|
+
|
13
|
+
2 1 1,0,0,0,1,0,0,0,0,0,0,1,0,0,1,0,1,0,0,1,0,1,1,0
|
14
|
+
|
15
|
+
3 0 1,0,0,0,0,0,0,0,0,0,0,1,1,0,1,1,1,0,1,1,1,0,1,0
|
16
|
+
|
17
|
+
4 0 1,0,0,1,0,0,0,1,0,0,0,1,1,0,1,1,0,0,1,1,1,1,1,0
|
18
|
+
|
19
|
+
... ... ...
|
20
|
+
|
21
|
+
995 0 1,0,0,1,0,0,0,1,0,0,0,1,1,0,1,1,1,0,1,1,1,1,1,0
|
22
|
+
|
23
|
+
996 1 1,0,0,0,0,0,0,1,0,0,0,1,1,0,1,0,0,0,1,0,1,0,1,0
|
24
|
+
|
25
|
+
997 0 1,0,0,0,1,0,0,1,0,0,0,1,1,0,1,1,1,0,0,0,1,1,0,0
|
26
|
+
|
27
|
+
998 1 1,0,0,0,0,0,0,1,0,0,0,1,1,0,1,0,1,0,0,1,1,1,0,0
|
28
|
+
|
29
|
+
999 1 1,0,0,0,1,0,0,1,0,0,0,1,1,0,1,1,0,1,0,1,1,0,0,0
|
30
|
+
|
31
|
+
IDとVALをdataとしてlistに[[1, 0, 1, 0, 0, ・・・・0, 1, 0, 1, 0, 1]、[1, 0, 0, ・・・・0, 0, 0,]・・ ]]
|
32
|
+
|
33
|
+
CLSをlabelとしてlistに[[0],[1],[0],・・・・・・]]
|
34
|
+
|
35
|
+
Datasetでは、 returnで data,label を1組ずつ返してます。
|
4
36
|
|
5
37
|
|
6
38
|
|
1
文章を直しました
test
CHANGED
File without changes
|
test
CHANGED
@@ -22,7 +22,7 @@
|
|
22
22
|
|
23
23
|
datasizeは40個の要素が入ったdata1000個あるとして、
|
24
24
|
|
25
|
-
下記のように40このベクトルがbatch_size=2なので2
|
25
|
+
下記のように40このベクトルがbatch_size=2なので2組になって、500セット返ってくることをイメージしてたのですが、
|
26
26
|
|
27
27
|
[[1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],1.0]・・・・(×data数分)
|
28
28
|
|