丸め誤差の解決方法が知りたいです。
csvファイルから0.1を10万個読み込んで、その読み込んだ0.1を10万回足したのですが、すると100000.0000013329
という結果になりました。
丸め誤差が原因であるのはわかるのですが、
いつ2進数や10進数に変換されているのかわからず、
どこでどう直せばいいのかわかりません。
どう直せばよいのでしょうか?
回答4件
あなたの回答
tips
プレビュー
Q&A
解決済
退会済みユーザー
総合スコア0
投稿2017/05/19 02:37
丸め誤差の解決方法が知りたいです。
csvファイルから0.1を10万個読み込んで、その読み込んだ0.1を10万回足したのですが、すると100000.0000013329
という結果になりました。
丸め誤差が原因であるのはわかるのですが、
いつ2進数や10進数に変換されているのかわからず、
どこでどう直せばいいのかわかりません。
どう直せばよいのでしょうか?
回答4件
あなたの回答
tips
プレビュー
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。