丸め誤差について

Question

###質問事項

VBA の丸め誤差(?)についての質問です。
以下のコードの実行結果の理由が分からず困っています。

Debug.Print Int(0.95 + 0.05)  ' 0 となる
Debug.Print Int((95# / 100#) + 0.05)  ' 1 となる

0.95 と 0.05 はそれぞれ循環小数のため Int(0.95 + 0.05) の実行結果が 0 となることは理解していますが、Int((95#/100#) + 0.05) の実行結果が 1 となるのが理解できません。

0.95 と (95#/100#) は等価のように思えるのですが異なるのでしょうか？
型が何か関係しているのかと思い、試しに以下のようにして型の確認を行いました。

Debug.Print TypeName(0.95)  ' Double となる
Debug.Print TypeName(95#/100#)  ' Double となる

どちらも Double となり型の違いによる計算結果の違いではなさそうだと考えています。

計算処理内部の動作がどうなっているか確認する方法が思いつかなかったためディスアセンブルして確認を試みているのですが、なかなか大変なので質問させていただきました。

補足

浮動小数点数によって誤差が出る問題に対しては通貨型や十進数型を使えば良いことは理解しています。
上記のコードの実行結果の理由についてご教授くださいませ。

###補足情報(言語/FW/ツール等のバージョンなど)

• Windows10 Pro(32bit)
• Microsoft Office Professional Plus 2010 14.0.4734.1000 (32ビット)
• Microsoft Visual Basic for Applications 7.0 (Version:1589)
• Intel Pentium P6100 @ 2.00Gz

Answer 1

各数値を有効数字の桁数を制限した浮動小数点数(a x 2^b)で表し
(doubleだと二進数52桁だが原理的な話なので数桁でもいい)
実際に割り算(a1/a2 x 2^(b1-b2))してみるとわかるはずです。

例えば仮数部が小数点4桁、0方向丸めとすれば
0.95 -> 0.1111 x 2^0
95.0 -> 0.1011 x 2^7
100.0 -> 0.1100 x 2^7

95.0/100.0 -(> 0.11101 x 2^0 -丸め)-> 0.1110 x 2^0

Comments

[yamagh]

ご説明を読んでなるほど！と思ったのですが私の理解の及ばない所がありました。

小数点 4 桁で考えた場合
0.95 は 0.1111 x 2^0
95/100 は 0.1110 x 2^0
なので 0.95 と 95/100 が等しくならないので等価ではない、と示していただいたと思うのですが、これには納得です。

同様にして小数点 8 桁でも考えてみました。

0.95 → 0.1111 0011 x 2^0
95 → 0.0101 1111 x 2^8
100 → 0.0110 0100 x 2^8

95/100 の結果が 0.95 (0.1111 0011 x 2^0) と同じにならないことを期待したのですが、何度計算しても同じになってしまいます…

何か私が勘違いしているだけだとは思いますが、補足でご説明いただけると助かります。

Answer 2

小数（浮動小数点数型）の計算が思った結果にならない理由と解決法
Decimal型はいつ使うか？

このあたりが参考になりますね。
Float の誤差は言語を問わず発生することで、プログラミングをやる上では頻繁に遭遇しますので、基礎知識としておきましょう。

Comments

[yamagh]

さっそくのご回答ありがとうございます。
しかしスミマセン。私の説明不足により期待していた回答とちょっと違うものでした(汗)
質問文に補足を追加させていただきました。