roundで四捨五入にならない場合の理由を教えてください

Question

前提・実現したいこと

小数点第三位を四捨五入したいのですが、
rubyのバージョンによっては四捨五入できない場合があります。
ruby2.1で実行した場合に正しく四捨五入できない理由が知りたいです。

ご教授よろしくおねがいいたします。

試したこと

• ruby2.1で実行した場合

irb(main):001:0> 1024.975.round(2)
=> 1024.97
irb(main):002:0> 1023.975.round(2)
=> 1023.98

• ruby2.4で実行した場合

irb(main):001:0> 1024.975.round(2)
=> 1024.98
irb(main):002:0> 1023.975.round(2)
=> 1023.98

Answer 1

pry(main)> 1024.975 * 100
=> 102497.49999999999

なので、特別な工夫なく処理すると1024.97になるのが自然な気がします。

half引数が追加されたときに、10進演算の場合に近くなるように、作為的な処理を追加したのではないでしょうか？（ソースまでは確認してませんが）

Comments

[mt_]

丁寧に教えて頂きありがとうございます！
解決しました。

Answer 2

もともとの ruby （～2.4.0）の Float#round のバグではないかという気もしますが。

ruby の更新履歴を見ると、2.4.0 で round メソッドに half: のキーワード引数が追加され、ちょうど中間値だったときの挙動を設定できるようになっています。この省略時の値が :up（切り上げる）なので、ここで挙動が違ってませんでしょうか。

試しに 2.4 で、

1024.975.round(2, half: :even)
1024.975.round(2, half: :down)

の結果は

1024.98
1024.97

になりました。

Comments

[mt_]

丁寧に教えて頂きありがとうございます！
解決しました。

Answer 3

ruby2.1 の場合、1024.975 と 1023.975 で繰り上げ繰り下げが異なるのが不思議なのでしょうか。
これはruby（に限らず全ての言語の多くの数値表現が）10進ではなく2進で扱われているため、表示された数値と内部の値が正確に一致しているわけでは無いことに起因しています。

irb(main):003:0> 1024.975 - 1023.975
=> 0.9999999999998863

1024.975 の方が1.000000000000 おおきいのではなく、ちょっと足りません。
実際の値が 1024.9749999。。。。　であるため切り捨てられたということです。

Comments

[mt_]

丁寧に教えて頂きありがとうございます！
解決しました。