回答編集履歴
1
追記
answer
CHANGED
|
@@ -13,4 +13,7 @@
|
|
|
13
13
|
- 浮動小数点数内部表現シミュレーター
|
|
14
14
|
[https://tools.m-bsys.com/calculators/ieee754.php](https://tools.m-bsys.com/calculators/ieee754.php)
|
|
15
15
|
|
|
16
|
-
コンピュータでの各種の計算結果も目盛り上の値になることは少ないです。それは近い目盛りに丸めてしまうことになります。丸めることで誤差が生まれます。
|
|
16
|
+
コンピュータでの各種の計算結果も目盛り上の値になることは少ないです。それは近い目盛りに丸めてしまうことになります。丸めることで誤差が生まれます。
|
|
17
|
+
|
|
18
|
+
double, float, bigdecimal では、 目盛りの最小値、最大値、その間の目盛りの数、間隔の様子が異なるのです。
|
|
19
|
+
どの場合でも誤差は発生します。
|