teratail header banner
teratail header banner
質問するログイン新規登録

回答編集履歴

1

語句修正

2020/05/31 23:36

投稿

thkana
thkana

スコア7738

answer CHANGED
@@ -4,7 +4,7 @@
4
4
 
5
5
  Microsoft C(Visual Studio)で試してみると、
6
6
  float b =9.44;
7
- の時点で格納した時点で変数に入っているのは0x3d0a1741, 9.43999958038330078125‬だったりするのです。
7
+ で格納した時点で変数に入っているのは0x3d0a1741, 9.43999958038330078125‬だったりするのです。
8
8
  しかも、この誤差がマイナス方向という決まりはなく、例えば
9
9
  b=9.43;
10
10
  とすれば、格納されていたのは0x48e11641, ‭9.43000030517578125‬ でした。