回答編集履歴
1
記述修正
test
CHANGED
|
@@ -2,11 +2,11 @@
|
|
|
2
2
|
|
|
3
3
|
|
|
4
4
|
|
|
5
|
-
1
|
|
5
|
+
1 [マニュアルの記述](https://dev.mysql.com/doc/refman/5.6/ja/arithmetic-functions.html)通りで、除算演算子の場合の有効桁数は、除数・被除数のうちの精度の高い方に、div_precision_increment の桁数を足した物になります。
|
|
6
6
|
|
|
7
7
|
|
|
8
8
|
|
|
9
|
-
2
|
|
9
|
+
2 [マニュアルの記述](https://dev.mysql.com/doc/refman/5.6/ja/precision-math-decimal-characteristics.html)より、DECIMAL 型の最大精度は (65, 30) です。ですので小数点以下30桁を超える場合は31桁目で四捨五入された値を利用します。
|
|
10
10
|
|
|
11
11
|
```
|
|
12
12
|
|
|
@@ -28,7 +28,7 @@
|
|
|
28
28
|
|
|
29
29
|
|
|
30
30
|
|
|
31
|
-
3
|
|
31
|
+
3 0.89999 / 30 が近似値になってしまっているようです。例えば
|
|
32
32
|
|
|
33
33
|
```
|
|
34
34
|
|
|
@@ -48,4 +48,4 @@
|
|
|
48
48
|
|
|
49
49
|
```
|
|
50
50
|
|
|
51
|
-
と、除数を 30.0 とすると
|
|
51
|
+
と、除数を 30.0 とすると結果が違うことが分かります。
|