回答編集履歴
2
語尾修正
answer
CHANGED
|
@@ -49,4 +49,4 @@
|
|
|
49
49
|
1.0000001192 = 0x3f800001
|
|
50
50
|
1.0000000000 = 0x3f800000
|
|
51
51
|
```
|
|
52
|
-
表示精度を上げると num = 1.0000001192 と、1.0 より大きな値になっていること
|
|
52
|
+
表示精度を上げると num = 1.0000001192 と、1.0 より大きな値になっていることがわかります。ビット表現を確認すると、正確な 1.0 が 0x3f800000 なのに対し、0.1 を10回足した結果は 0x3f800001 となり、一致していません。僅か1bitですが、それが 0.0000001192 程の差であることが確認できます。これは 0.1 をfloat型に変換した時点で生じた誤差が、足し算を繰り返して蓄積された結果です。
|
1
%.10f に変更
answer
CHANGED
|
@@ -9,7 +9,7 @@
|
|
|
9
9
|
10進数の 0.625 は２進数で 0.101 と表わすことができ、誤差はありません。しかし10進数の 0.1 は２進数だと循環小数になります（正確な値はググればみつかるかも）。循環小数であれば無限のビット数が必要ですが、そんな 0.1 を有限のビット数で表わした上で計算せざるを得ないので、浮動小数点数に誤差は避けられません。
|
|
10
10
|
|
|
11
11
|
その誤差を確認する方法があります。
|
|
12
|
-
私達が普通に使うＣコンパイラの多くは float 型は 32bit の形式なので、たいてい次のプログラムを試せるはずです。質問者の環境でも動作すると思います。お試しあれ。
|
|
12
|
+
私達が普通に使うＣコンパイラの多くは float 型は 32bit の形式なので、たいてい次のプログラムを試せるはずです。"%.10f" として小数点以下の表示精度を上げることと、ビット表現を確認するようにしました。質問者の環境でも動作すると思います。お試しあれ。
|
|
13
13
|
|
|
14
14
|
```C
|
|
15
15
|
#include <stdio.h>
|
|
@@ -21,7 +21,7 @@
|
|
|
21
21
|
uint32_t u; // さもなくば unsigned int
|
|
22
22
|
} d;
|
|
23
23
|
d.f = f;
|
|
24
|
-
printf("%
|
|
24
|
+
printf("%.10f = 0x%x\n", d.f, d.u);
|
|
25
25
|
}
|
|
26
26
|
|
|
27
27
|
void main( void ) {
|
|
@@ -46,7 +46,7 @@
|
|
|
46
46
|
0.700000
|
|
47
47
|
0.800000
|
|
48
48
|
0.900000
|
|
49
|
-
1.
|
|
49
|
+
1.0000001192 = 0x3f800001
|
|
50
|
-
1.
|
|
50
|
+
1.0000000000 = 0x3f800000
|
|
51
51
|
```
|
|
52
|
-
正確な 1.0 が 0x3f800000 なのに対し、0.1 を10回足した結果は 0x3f800001 となり、一致していません。僅か1bitですが
|
|
52
|
+
表示精度を上げると num = 1.0000001192 と、1.0 より大きな値になっていること、ビット表現を確認すると、正確な 1.0 が 0x3f800000 なのに対し、0.1 を10回足した結果は 0x3f800001 となり、一致していません。僅か1bitですが、それが 0.0000001192 程の差であることが確認できます。これは 0.1 をfloat型に変換した時点で生じた誤差が、足し算を繰り返して蓄積された結果です。
|