MySQLの小数点計算の切り捨て(四捨五入)される桁数

Question

1〜3のような計算をした時に、切り捨て(四捨五入)される桁数に関する質問です。

show variables like "div_precision_increment";
-- 4
select version();
-- 5.5.39-log 

以下はそれぞれどういった理由で、それぞれの結果になるのでしょうか?

１. 0.8999 の小数点以下4桁とdiv_precision_increment=4を足して、小数点8桁で四捨五入されている状態でしょうか

select 0.8999 / 30
-- 0.02999667

２. 小数点以下サポートの30桁以下は切り捨てられて四捨五入されている状態でしょうか
(それか30桁に行ったので単に近似値表示がされている?)

select 0.8999999999999999999999999999999999999 / 30
-- 0.030000000000000000000000000000

３. この場合に四捨五入されていない(ように見える)のはなぜでしょうか

select 0.89999 /30
-- 0.029999666

浮動小数点数、MySQLの特性など含めてどのような動きになっているのか
ご教示いただけますと幸いです。

Answer 1

小数点以下何桁で切り捨て、といいますが、あくまで表示するために、表示上の都合で切り捨てている、ということなだけで、内部的には保持している変数の精度で保持してます。

小数点以下４桁までしか表示していないので、内部の変数は小数点以下４桁でなんかしている、というのは間違いです。

＃逆に、精度いっぱい小数点以下１４桁とか出されても困るでしょｗ

Comments

[yetis]

> 内部の変数は小数点以下４桁でなんかしている、というのは間違いです。
なるほど、そうですよね。ありがとうございました。

Answer 2

以下、いずれも MySQL のマニュアルを参考にしてください。

1 マニュアルの記述通りで、除算演算子の場合の有効桁数は、除数・被除数のうちの精度の高い方に、div_precision_increment の桁数を足した物になります。

2 マニュアルの記述より、DECIMAL 型の最大精度は (65, 30) です。ですので小数点以下30桁を超える場合は31桁目で四捨五入された値を利用します。

mysql> select cast(0.8999999999999999999999999999999 as decimal(65,30));
+-----------------------------------------------------------+
| cast(0.8999999999999999999999999999999 as decimal(65,30)) |
+-----------------------------------------------------------+
|                          0.900000000000000000000000000000 |
+-----------------------------------------------------------+
1 row in set (0.00 sec)

3 0.89999 / 30 が近似値になってしまっているようです。例えば

mysql> select 0.89999/30, 0.89999/30.0, cast(0.89999 as decimal(6,5))/30, cast(0.89999 as decimal(6,5))/30.0;
+-------------+--------------+----------------------------------+------------------------------------+
| 0.89999/30  | 0.89999/30.0 | cast(0.89999 as decimal(6,5))/30 | cast(0.89999 as decimal(6,5))/30.0 |
+-------------+--------------+----------------------------------+------------------------------------+
| 0.029999666 |  0.029999667 |                      0.029999666 |                        0.029999667 |
+-------------+--------------+----------------------------------+------------------------------------+
1 row in set (0.00 sec)

と、除数を 30.0 とすると結果が違うことが分かります。

Comments

[yetis]

ご丁寧な回答ありがとうございます。
1なのですが、マニュアルに

```
/ を使用して実行される除算では、2 つの正確な値のオペランドを使用したときの結果のスケールが、1 番目のオペランドに div_precision_increment システム変数 (デフォルトでは 4) の値を加えた値になります。たとえば、式 5.05 / 0.014 の結果のスケールは、小数点以下 6 桁になります (360.714286)。
```
1番目のオペランドとなっているので、 `被除数` の精度に +4 ? のように捉えていました。
ただ `結果の精度が、最大の精度を持つオペランドの精度` とも書いてあるので....???

試した限りでは `1 番目のオペランド + 4` のようにも思えます。
```
mysql> select 5.05 / 0.0140000000;
+---------------------+
| 5.05 / 0.0140000000 |
+---------------------+
| 360.714286 |
+---------------------+
1 row in set (0.01 sec)

mysql> select 5.050000 / 0.014;
+------------------+
| 5.050000 / 0.014 |
+------------------+
| 360.7142857143 |
+------------------+
1 row in set (0.00 sec)
```

難しいですね...

[ikadzuchi]

> `被除数` の精度に +4
私にもそう読めます。
> `結果の精度が、最大の精度を持つオペランドの精度`
それは「オペランドのいずれかが実数値または文字列値である場合」なので今回無関係でしょう。

3番について、厳密値と近似値の違いというのはありそうなことではありますが、
残る疑問は、なぜ1番と同じ書き方なのに厳密値か近似値かが変わるのか(マニュアルを見た限り厳密値と扱われそう)と、
近似値になったからといって切り捨てになる理由が分からないことですね。
https://dev.mysql.com/doc/refman/5.6/ja/precision-math-rounding.html
DECIMAL または整数カラムへの挿入の場合では四捨五入になるという記述はあり、selectで直接出力したときどういう扱いになるかは分かりませんが、切り捨てというのはあまり一般的でないので不思議です。