回答編集履歴

2

2018/10/18 11:46

投稿

tiitoi
tiitoi

スコア21956

test CHANGED
@@ -50,7 +50,7 @@
50
50
 
51
51
  * 必要なバイト数: 8バイト*5万*5万
52
52
 
53
- * 表現できる桁数: 約8
53
+ * 表現できる桁数: 約15
54
54
 
55
55
 
56
56
 

1

a

2018/10/18 11:45

投稿

tiitoi
tiitoi

スコア21956

test CHANGED
@@ -23,3 +23,37 @@
23
23
  50000×50000 の行列が密行列でメモリの乗り切らないのなら無理です。
24
24
 
25
25
  問題設定を見直してください。
26
+
27
+
28
+
29
+ ----
30
+
31
+
32
+
33
+ ### np.float32
34
+
35
+
36
+
37
+ * 別名: 単精度
38
+
39
+ * 必要なバイト数: 4バイト*5万*5万
40
+
41
+ * 表現できる桁数: 約8桁
42
+
43
+
44
+
45
+ ### np.float64 (Python の float)
46
+
47
+
48
+
49
+ * 別名: 倍精度
50
+
51
+ * 必要なバイト数: 8バイト*5万*5万
52
+
53
+ * 表現できる桁数: 約8桁
54
+
55
+
56
+
57
+ 単精度の精度で十分であれば、float32 でもよいです。
58
+
59
+ 実際、Deep Learning や 3DCG では大量のデータを扱う、倍精度ほどの精度が必要ないという理由で、単精度が一般的に使われています。