Q&A
ありがとうございます。
doubleだから誤差が出るという訳ではないのですね！
これからの学習に精進します。
数値のデータ型について質問です。
SQLite3で数値のデータを管理しており，その数値を計算（加算など）に用いています。小数値も管理しており，SQLiteのデータ型であるREAL型で管理したところ，加算結果が2.9999999996のような感じになってしまいました。調べたところ，doubleやfloatでは丸め誤差が生じてしまうのでBigDecimalクラスを用いるとよいと書いてありました。そこでSQLiteのTEXT型で数値を管理し，文字列からBigDecimalクラスへ型変換し計算を行なったらこのような誤差は出なくなりました。
とりあえず「BigDecimalクラスを用いたら誤差が出なくなった」で止まっており，「なぜBigDecimalならよいのか？」「なぜdoubleやfloatでは誤差が生じてしまうのか？」などがまだ理解しきれません。様々なサイトを参考にさせて頂いているのですがいまいちピンとこないので，どなたか詳しい方がいらっしゃったら教えて頂きたいです。
回答7件
0
ベストアンサー
doubleやfloatは二進法の小数表現をしています。
十進法の0.5は二進法で0.1、十進法の0.25が0.01になります。
十進法で1/3が0.333...と無限小数になるのと同様、二進法でも無限小数になりえます。
例えば十進法の0.1は二進法で0.0001100110011...となります。
十進法でも無限小数を、無限に数字を書き並べて表すのが現実的に不可能であるのと同様に、
二進法でも無限に0と1を並べるわけにはいきません。どこかで打ち切る必要があります。
この「打ち切り」の時、真の値との誤差が生まれます。これが「丸め誤差」というものです。
誤差のある者同士を計算すれば、計算にもよりますが誤差が累積していきます。
一方、BigDecimalクラスの場合は、「整数×10の何乗」という形で数値を管理しています。
整数を基準にして、小数点何桁分ずれてるか、という考え方です。
十進法で表された有限小数は、必ずこの形で表すことができます。そのため、変換時の丸め誤差が生じません。
これを使った計算は、内部では整数同士の計算として扱っています。
整数計算は足し算、引き算、掛け算においては誤差が起きようがないため、正確に計算できるのです。
一応、整数の桁数に制限がなければ、という話ですが、BigDecimalが持つ整数情報は使える桁数が十分大きい(少なくとも2^(2^31-1)以上、これは十進法で6億桁以上)ので、あまり問題にはなりません。
投稿2019/02/04 04:08
編集2020/01/16 08:42
総合スコア20651
0
floatやdoubleでは２進数で数値表現してます。
で、ニンゲンのアタマでは、１０進数ですべてを考えるため、２進数では、小数点以下になるとそこらへん食い違ってきます
その食い違うのをどーにかするために、わざわざ
BigDecimalという、１０進数で数値表現するクラスを作ってます
初心者の方には誤解されがちなことですが、doubleだから誤差が出るというものではありません。
２進数の数値をムリヤリ１０進数に変えて読もうとするから誤差が出るように見えてしまうってことですね
投稿2019/02/04 04:09
総合スコア87749
0
double と float は二進数です。十進数との相互変換で誤差が生じます。しかし BigDecimal は十進数なので変換誤差が生じません。
投稿2019/02/04 03:59
総合スコア28660
0
https://docs.oracle.com/javase/jp/6/api/java/math/BigDecimal.html
BigDecimalの仕様書的なページです。
投稿2019/02/04 03:40
総合スコア3307
0
doubleやfloatはIEEE 754の2進法形式で浮動小数点数を格納しているため、0.1すら厳密な値を表現することはできません。
投稿2019/02/04 03:58
総合スコア145183
0
数値は無限個あります。
コンピュータでは無限個のものを表すことはできません。
整数でさえも、コンピュターでは限られたものしか扱えません。
(1ビットでは 2つの種類のものしかあらわせないです)
定規にはメモリが有限個つけられますが、実際にモノの長さをはかると目盛りと目盛りの間になる場合が多いです。
コンピュータでの小数の扱いもこれと似ています。
コンピュータで扱える小数を定規上にメモると、有限個しかありません。定規では目盛りの間隔は一定ですが、
コンピュータの場合は 0 の近くになるほど目盛り間隔が狭くなります。
1.0 の目盛りや 0.5 の目盛りはありますが、0.1 の目盛りはないのです。
どんな目盛り(ぴったり表現できる数) にはどんなものがあるかを次のサイトで調べることができます。
- 浮動小数点数内部表現シミュレーター
https://tools.m-bsys.com/calculators/ieee754.php
コンピュータでの各種の計算結果も目盛り上の値になることは少ないです。それは近い目盛りに丸めてしまうことになります。丸めることで誤差が生まれます。
double, float, bigdecimal では、 目盛りの最小値、最大値、その間の目盛りの数、間隔の様子が異なるのです。
どの場合でも誤差は発生します。
投稿2019/02/08 12:40
編集2019/02/08 12:44
総合スコア22324
0
ここに同じ事が具体的事例で解説してありますが参考になりますか？
数値Double型の誤差が発生する原因について ~ 2進数の小数って面倒いねって話 ~
投稿2019/02/04 04:12
総合スコア2160
あなたの回答
tips
プレビュー
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。
2019/02/04 04:15
2019/02/05 01:00