ayuu2019/11/05 07:22回答していただいてありがとうございます。 すみません。 1.10を2進数として内部で保持するとき、有限長で表現できないとはどういう意味でしょうか。 有限長の意味を調べたのですが、分からなかったです。
LouiS06162019/11/05 07:38 編集ここでは 有限長ではない = 無限の長さを持つ という意味で使っています。有限小数や無限小数といった言葉を使った方が良かったかもしれません。 例えば 1 ÷ 2 を10進小数で表現すると、0.5 になります。これは有限小数です。一方、 1 ÷ 3 を 10進小数で表現しようとすると、 0.33333333... という無限小数になります。 1.1は10進数では有限小数ですが、2進数に変換すると無限小数になってしまいます。 コンピュータが値を2進数で保持する以上は、このような誤差が出るのは仕方の無いことです。
maisumakun2019/11/05 08:13Pythonチュートリアルでも、この問題に1ページを割いています。 https://docs.python.org/ja/3/tutorial/floatingpoint.html
stdio2019/11/05 09:08別の言語ですが、こっちの解説の方が分かりやすいと思います。 https://www.cc.kyoto-su.ac.jp/~yamada/programming/float.html ちなみにdecimalモジュールはメモリ大量に使うので、銀行システム以外ではあまり使われていません。 なぜなら、そこまで厳密に数字を扱いたいなんてこと滅多にないですからね...
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。
2019/11/05 07:22
2019/11/05 07:38 編集
2019/11/05 08:13
2019/11/05 09:08
2019/11/05 09:29
2019/11/05 09:56