浮動小数点についての質問なのですが、
0.1を10回加算した時の値(演算結果0.9999…)と、10を乗算した時の値(演算結果1.0)が異なっていました。
浮動小数点は0.1を正確には表せないため、演算結果は共に(0.999…)になってもおかしくないと思ってるのですが、乗算した時はどうして1になっているのでしょうか。
回答2件
あなたの回答
tips
プレビュー
投稿2020/05/28 02:21
浮動小数点についての質問なのですが、
0.1を10回加算した時の値(演算結果0.9999…)と、10を乗算した時の値(演算結果1.0)が異なっていました。
浮動小数点は0.1を正確には表せないため、演算結果は共に(0.999…)になってもおかしくないと思ってるのですが、乗算した時はどうして1になっているのでしょうか。
回答2件
あなたの回答
tips
プレビュー
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。