質問するログイン新規登録

回答編集履歴

1

誤記訂正

2017/03/06 09:35

投稿

KSwordOfHaste
KSwordOfHaste

スコア18406

answer CHANGED
@@ -22,6 +22,6 @@
22
22
  ```
23
23
  上の3つの浮動小数点数はそれぞれ正確に「10進数表現」の欄に記した値を保持しています。
24
24
  それを10進数で正確に表現すれば確かに53ケタほどの値ですが、(1)(2)(3)はIEE754で表現可能な最小の差をもった値でありそれより小さな差の値は表現できません。「浮動小数点数は実数の中のとびとびの値(=離散値)しか表現できない」という事実はご存知ですね?
25
- さて最初の値(2)とその前後の値(1)(3)をみると(2)の値は(1)よりは大きく(3)よりは小さい無数にある実数の中のどれか特定の値を誤差付きで表現した計算結果と捉えるべきですので、ある計算結果を誤差付きで表現したにすぎない(2)の値を考えたとき、上に挙げた10進53ケタの値が正確な値だからといってその53ケタ全てを(2)の値の表現として考えてみても意味がなく、せいぜい「1.732050807568877くらいの値」と言うべきです。以上が**倍精度浮動小数点数の10進での有効精度はせいぜい15桁程度**であることの実例です。
25
+ さて最初の値(2)とその前後の値(1)(3)をみると(2)の値は(1)よりは大きく(3)よりは小さい無数にある実数の中のどれか特定の値を誤差付きで表現した計算結果と捉えるべきですので、(2)の値を考えたとき、上に挙げた10進53ケタの値が正確な値だからといってその53ケタ全てを(2)の値の表現として考えてみても意味がなく、せいぜい「1.732050807568877くらいの値」と言うべきです。以上が**倍精度浮動小数点数の10進での有効精度はせいぜい15桁程度**であることの実例です。
26
26
 
27
27
  以上の説明は他の方々の説明を単なる実例で示したものに過ぎません。他の方の回答で「なるほど」と理解できたならあまり役に立たない回答かと思いますが、一つの説明ではあるかなと思います。