回答編集履歴
2
具体例追加
test
CHANGED
|
@@ -3,3 +3,17 @@
|
|
|
3
3
|
(doubleだと二進数52桁だが原理的な話なので数桁でもいい)
|
|
4
4
|
|
|
5
5
|
実際に割り算(a1/a2 x 2^(b1-b2))してみるとわかるはずです。
|
|
6
|
+
|
|
7
|
+
|
|
8
|
+
|
|
9
|
+
例えば仮数部が小数点4桁、0方向丸めとすれば
|
|
10
|
+
|
|
11
|
+
0.95 -> 0.1111 x 2^0
|
|
12
|
+
|
|
13
|
+
95.0 -> 0.1011 x 2^7
|
|
14
|
+
|
|
15
|
+
100.0 -> 0.1100 x 2^7
|
|
16
|
+
|
|
17
|
+
|
|
18
|
+
|
|
19
|
+
95.0/100.0 -(> 0.11101 x 2^0 -丸め)-> 0.1110 x 2^0
|
1
数式の追加
test
CHANGED
|
@@ -1,5 +1,5 @@
|
|
|
1
|
-
各数値を有効数字の桁数を制限した浮動小数点数で表し
|
|
1
|
+
各数値を有効数字の桁数を制限した浮動小数点数(a x 2^b)で表し
|
|
2
2
|
|
|
3
3
|
(doubleだと二進数52桁だが原理的な話なので数桁でもいい)
|
|
4
4
|
|
|
5
|
-
実際に割り算してみると
|
|
5
|
+
実際に割り算(a1/a2 x 2^(b1-b2))してみるとわかるはずです。
|