回答編集履歴
2
説明の修正
test
CHANGED
|
@@ -30,7 +30,7 @@
|
|
|
30
30
|
|
|
31
31
|
|
|
32
32
|
|
|
33
|
-
まず、VBAにおいて、内部的には整数も小数もすべて2進数です。
|
|
33
|
+
まず、VBAにおいて、内部的には整数も小数もすべて2進数です。演算も2進数で行います。
|
|
34
34
|
|
|
35
35
|
表示するときに、10進数に変換して表示しています。
|
|
36
36
|
|
1
説明の追加
test
CHANGED
|
@@ -4,7 +4,7 @@
|
|
|
4
4
|
|
|
5
5
|
通貨型は、
|
|
6
6
|
|
|
7
|
-
内部的には整数（L
|
|
7
|
+
内部的には整数（LongLong型）で格納されていて、
|
|
8
8
|
|
|
9
9
|
表示するときに、末尾から4桁目に小数点を表示している。
|
|
10
10
|
|
|
@@ -23,3 +23,23 @@
|
|
|
23
23
|
|
|
24
24
|
|
|
25
25
|
と同じことです。
|
|
26
|
+
|
|
27
|
+
|
|
28
|
+
|
|
29
|
+
> その”4桁の小数”というのが10進数での4桁かどうかが知りたいのですが。。。
|
|
30
|
+
|
|
31
|
+
|
|
32
|
+
|
|
33
|
+
まず、VBAにおいて、内部的には整数も小数もすべて2進数です。
|
|
34
|
+
|
|
35
|
+
表示するときに、10進数に変換して表示しています。
|
|
36
|
+
|
|
37
|
+
|
|
38
|
+
|
|
39
|
+
2進数の整数の演算は誤差は生じませんが、
|
|
40
|
+
|
|
41
|
+
10進数の小数を正確に2進数の小数に変換できないので近似値の2進数になるため誤差が生じます。
|
|
42
|
+
|
|
43
|
+
|
|
44
|
+
|
|
45
|
+
通貨型の”4桁の小数”部分は、"2進数の整数"です。それを10進数の小数のように表示しているということです。
|