回答編集履歴
2
あ
test
CHANGED
@@ -50,7 +50,7 @@
|
|
50
50
|
|
51
51
|
* 必要なバイト数: 8バイト*5万*5万
|
52
52
|
|
53
|
-
* 表現できる桁数: 約
|
53
|
+
* 表現できる桁数: 約15桁
|
54
54
|
|
55
55
|
|
56
56
|
|
1
a
test
CHANGED
@@ -23,3 +23,37 @@
|
|
23
23
|
50000×50000 の行列が密行列でメモリの乗り切らないのなら無理です。
|
24
24
|
|
25
25
|
問題設定を見直してください。
|
26
|
+
|
27
|
+
|
28
|
+
|
29
|
+
----
|
30
|
+
|
31
|
+
|
32
|
+
|
33
|
+
### np.float32
|
34
|
+
|
35
|
+
|
36
|
+
|
37
|
+
* 別名: 単精度
|
38
|
+
|
39
|
+
* 必要なバイト数: 4バイト*5万*5万
|
40
|
+
|
41
|
+
* 表現できる桁数: 約8桁
|
42
|
+
|
43
|
+
|
44
|
+
|
45
|
+
### np.float64 (Python の float)
|
46
|
+
|
47
|
+
|
48
|
+
|
49
|
+
* 別名: 倍精度
|
50
|
+
|
51
|
+
* 必要なバイト数: 8バイト*5万*5万
|
52
|
+
|
53
|
+
* 表現できる桁数: 約8桁
|
54
|
+
|
55
|
+
|
56
|
+
|
57
|
+
単精度の精度で十分であれば、float32 でもよいです。
|
58
|
+
|
59
|
+
実際、Deep Learning や 3DCG では大量のデータを扱う、倍精度ほどの精度が必要ないという理由で、単精度が一般的に使われています。
|