桁落ち誤差である数を近い数で引くと桁落ちするというのが分かりません。
桁が落ちない話 - Qiitaの「桁落ちの例」に有効数字5桁で
√2+23/4567⇒(1.4142+0.0050361)×10⁰
と計算した後、-√2すると結果が0.0050×10⁰=5.0×10⁻³になり有効数字が2桁になるので真の値を5桁に丸めたもの(5.0361×10⁻³)と比べて不確かになっているというような事が書かれているのですが、桁落ちの原因は近い数で引くことが原因とありますが、自分には最初に1.4142+0.0050361の計算結果を有効数字5桁で丸めることで361の部分が失って不確かな結果になったように思えます。自分の解釈のどこが間違っているのでしょうか?
回答2件
あなたの回答
tips
プレビュー
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。