回答編集履歴
2
具体例追加
answer
CHANGED
|
@@ -1,3 +1,10 @@
|
|
|
1
1
|
各数値を有効数字の桁数を制限した浮動小数点数(a x 2^b)で表し
|
|
2
2
|
(doubleだと二進数52桁だが原理的な話なので数桁でもいい)
|
|
3
|
-
実際に割り算(a1/a2 x 2^(b1-b2))してみるとわかるはずです。
|
|
3
|
+
実際に割り算(a1/a2 x 2^(b1-b2))してみるとわかるはずです。
|
|
4
|
+
|
|
5
|
+
例えば仮数部が小数点4桁、0方向丸めとすれば
|
|
6
|
+
0.95 -> 0.1111 x 2^0
|
|
7
|
+
95.0 -> 0.1011 x 2^7
|
|
8
|
+
100.0 -> 0.1100 x 2^7
|
|
9
|
+
|
|
10
|
+
95.0/100.0 -(> 0.11101 x 2^0 -丸め)-> 0.1110 x 2^0
|
1
数式の追加
answer
CHANGED
|
@@ -1,3 +1,3 @@
|
|
|
1
|
-
各数値を有効数字の桁数を制限した浮動小数点数で表し
|
|
1
|
+
各数値を有効数字の桁数を制限した浮動小数点数(a x 2^b)で表し
|
|
2
2
|
(doubleだと二進数52桁だが原理的な話なので数桁でもいい)
|
|
3
|
-
実際に割り算してみると
|
|
3
|
+
実際に割り算(a1/a2 x 2^(b1-b2))してみるとわかるはずです。
|