回答編集履歴

1

一応、指摘を訂正

2018/05/26 11:46

投稿

pepperleaf
pepperleaf

スコア6383

test CHANGED
@@ -1,5 +1,11 @@
1
- 浮動小数点は、内部では、0.nnnnn x 10^n の形式で表現されているので、見た目の小数点以下と言うのは、意味がありません。 floatとdoubleの違いは、表現できる数値の範囲と共に、有効桁数の違いがあります。
1
+ 浮動小数点は、内部では、0.nnnnn x 2^n の形式で表現されているので、見た目の小数点以下と言うのは、意味がありません。 floatとdoubleの違いは、表現できる数値の範囲と共に、有効桁数の違いがあります。
2
2
 
3
3
  確か、 float : 23bit, double: 52bit です。(仕様を確認していないので、違っていたら、すみません) それぞれ、10進数で、約7桁、約15桁。
4
4
 
5
5
  原因はこの違いと思います。 (見たところ、9桁目でちがっているようですね)
6
+
7
+
8
+
9
+ [追記]
10
+
11
+ 10^n --> 2^n に訂正。桁数は、指摘がありますが、自分として未確認なので、皆様のコメントを参照ください。仮数部は、2進数なので、0.5-1.0 の範囲ですね。