回答編集履歴
2
語尾修正
test
CHANGED
|
@@ -100,4 +100,4 @@
|
|
|
100
100
|
|
|
101
101
|
```
|
|
102
102
|
|
|
103
|
-
表示精度を上げると num = 1.0000001192 と、1.0 より大きな値になっていること
|
|
103
|
+
表示精度を上げると num = 1.0000001192 と、1.0 より大きな値になっていることがわかります。ビット表現を確認すると、正確な 1.0 が 0x3f800000 なのに対し、0.1 を10回足した結果は 0x3f800001 となり、一致していません。僅か1bitですが、それが 0.0000001192 程の差であることが確認できます。これは 0.1 をfloat型に変換した時点で生じた誤差が、足し算を繰り返して蓄積された結果です。
|
1
%.10f に変更
test
CHANGED
|
@@ -20,7 +20,7 @@
|
|
|
20
20
|
|
|
21
21
|
その誤差を確認する方法があります。
|
|
22
22
|
|
|
23
|
-
私達が普通に使うＣコンパイラの多くは float 型は 32bit の形式なので、たいてい次のプログラムを試せるはずです。質問者の環境でも動作すると思います。お試しあれ。
|
|
23
|
+
私達が普通に使うＣコンパイラの多くは float 型は 32bit の形式なので、たいてい次のプログラムを試せるはずです。"%.10f" として小数点以下の表示精度を上げることと、ビット表現を確認するようにしました。質問者の環境でも動作すると思います。お試しあれ。
|
|
24
24
|
|
|
25
25
|
|
|
26
26
|
|
|
@@ -44,7 +44,7 @@
|
|
|
44
44
|
|
|
45
45
|
d.f = f;
|
|
46
46
|
|
|
47
|
-
printf("%f = 0x%x\n", d.f, d.u);
|
|
47
|
+
printf("%.10f = 0x%x\n", d.f, d.u);
|
|
48
48
|
|
|
49
49
|
}
|
|
50
50
|
|
|
@@ -94,10 +94,10 @@
|
|
|
94
94
|
|
|
95
95
|
0.900000
|
|
96
96
|
|
|
97
|
-
1.000000 = 0x3f800001
|
|
97
|
+
1.0000001192 = 0x3f800001
|
|
98
98
|
|
|
99
|
-
1.000000 = 0x3f800000
|
|
99
|
+
1.0000000000 = 0x3f800000
|
|
100
100
|
|
|
101
101
|
```
|
|
102
102
|
|
|
103
|
-
正確な 1.0 が 0x3f800000 なのに対し、0.1 を10回足した結果は 0x3f800001 となり、一致していません。僅か1bitですが
|
|
103
|
+
表示精度を上げると num = 1.0000001192 と、1.0 より大きな値になっていること、ビット表現を確認すると、正確な 1.0 が 0x3f800000 なのに対し、0.1 を10回足した結果は 0x3f800001 となり、一致していません。僅か1bitですが、それが 0.0000001192 程の差であることが確認できます。これは 0.1 をfloat型に変換した時点で生じた誤差が、足し算を繰り返して蓄積された結果です。
|