pythonで浮動小数点の計算をすると、例えば0.1+0.2=0.300000000...のようにずれが生じますが、このズレの大きさはコンピュータによって異なるのでしょうか?
プログラムは多少異なるものの、計算結果は同じになるはずのプログラムを別々のPCで動かしたのですが、結果が微妙に異なりました。
回答3件
あなたの回答
tips
プレビュー
投稿2019/11/25 08:59
pythonで浮動小数点の計算をすると、例えば0.1+0.2=0.300000000...のようにずれが生じますが、このズレの大きさはコンピュータによって異なるのでしょうか?
プログラムは多少異なるものの、計算結果は同じになるはずのプログラムを別々のPCで動かしたのですが、結果が微妙に異なりました。
回答3件
あなたの回答
tips
プレビュー
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。
2019/11/25 17:20