回答編集履歴
1
指摘を受け追記
test
CHANGED
|
@@ -2,7 +2,7 @@
|
|
|
2
2
|
|
|
3
3
|
10進数で切りの良い小数は2進浮動小数点数では正確に表せません。
|
|
4
4
|
|
|
5
|
-
例えば2.125は内部的に2.12499999のような値になるのでしょう。
|
|
5
|
+
~~例えば2.125は内部的に2.12499999のような値になるのでしょう。~~ →追記参照
|
|
6
6
|
|
|
7
7
|
偶数への丸めは無関係です。
|
|
8
8
|
|
|
@@ -11,3 +11,23 @@
|
|
|
11
11
|
対処法としては正攻法ではそもそも入力データに小数を使わないようにすべきですが、
|
|
12
12
|
|
|
13
13
|
現状のデータのままでどうにかするなら取れる方法は「十分に小さい数を足してからroundする」くらいだと思います。
|
|
14
|
+
|
|
15
|
+
|
|
16
|
+
|
|
17
|
+
---
|
|
18
|
+
|
|
19
|
+
追記:
|
|
20
|
+
|
|
21
|
+
上のように書きましたが、コメントで指摘のあったように2.125は2進小数で厳密に表せる値でした。失礼しました。
|
|
22
|
+
|
|
23
|
+
ただ、状況は浮動小数点数の誤差によく似ているので、何らかの形で上記のような内容が関係している可能性はあります。
|
|
24
|
+
|
|
25
|
+
|
|
26
|
+
|
|
27
|
+
調べてみると興味深い情報が見つかりました。
|
|
28
|
+
|
|
29
|
+
http://d.hatena.ne.jp/hnw/20131229
|
|
30
|
+
|
|
31
|
+
こちらの(本文ではなく)コメント欄にSQLiteの内部処理について、「0.005を足してから第3位以下を切り捨てることで四捨五入を実現」とあります。
|
|
32
|
+
|
|
33
|
+
これだと「0.005」の部分に誤差が含まれますので何桁でroundするかにより切り捨てか切り上げかが一定しないことになりそうで、ちょっと疑問が残ります。
|