回答編集履歴
1
整数部分への言及を追加
test
CHANGED
|
@@ -1,4 +1,4 @@
|
|
|
1
|
-
`double(1,1)`だと、有効な桁数が1桁で小数点以下が1桁、つまり小数部分だけ
|
|
1
|
+
`double(1,1)`だと、有効な桁数が1桁で小数点以下が1桁、つまり小数部分だけ1桁保持できるが整数部分は保持できない、ということになってしまいます。
|
|
2
2
|
|
|
3
3
|
そのため、1のように`double(1,1)`で表現できない値をinsertすると、表現できる範囲(-0.9～0.9)に丸められてしまうのでしょう。
|
|
4
4
|
|