回答編集履歴
1
追記
test
CHANGED
@@ -1 +1,11 @@
|
|
1
1
|
有効数字を考え、小数点以下第何位まで表示ってことをしましょう。
|
2
|
+
|
3
|
+
|
4
|
+
|
5
|
+
浮動小数点数というのは、2進数で内部表現してます。
|
6
|
+
|
7
|
+
が、ニンゲン用に10進に変換するときに誤差が出ます
|
8
|
+
|
9
|
+
|
10
|
+
|
11
|
+
ぶっちゃけ、10進数の0.1は2進数では表現できません。
|