回答編集履歴
1
誤記訂正
test
CHANGED
|
@@ -46,7 +46,7 @@
|
|
|
46
46
|
|
|
47
47
|
それを10進数で正確に表現すれば確かに53ケタほどの値ですが、(1)(2)(3)はIEE754で表現可能な最小の差をもった値でありそれより小さな差の値は表現できません。「浮動小数点数は実数の中のとびとびの値(=離散値)しか表現できない」という事実はご存知ですね？
|
|
48
48
|
|
|
49
|
-
さて最初の値(2)とその前後の値(1)(3)をみると(2)の値は(1)よりは大きく(3)よりは小さい無数にある実数の中のどれか特定の値を誤差付きで表現した計算結果と捉えるべきですので、
|
|
49
|
+
さて最初の値(2)とその前後の値(1)(3)をみると(2)の値は(1)よりは大きく(3)よりは小さい無数にある実数の中のどれか特定の値を誤差付きで表現した計算結果と捉えるべきですので、(2)の値を考えたとき、上に挙げた10進53ケタの値が正確な値だからといってその53ケタ全てを(2)の値の表現として考えてみても意味がなく、せいぜい「1.732050807568877くらいの値」と言うべきです。以上が**倍精度浮動小数点数の10進での有効精度はせいぜい15桁程度**であることの実例です。
|
|
50
50
|
|
|
51
51
|
|
|
52
52
|
|