回答編集履歴

1

追記

2021/06/25 06:45

投稿

y_waiwai
y_waiwai

スコア88042

test CHANGED
@@ -1 +1,11 @@
1
1
  有効数字を考え、小数点以下第何位まで表示ってことをしましょう。
2
+
3
+
4
+
5
+ 浮動小数点数というのは、2進数で内部表現してます。
6
+
7
+ が、ニンゲン用に10進に変換するときに誤差が出ます
8
+
9
+
10
+
11
+ ぶっちゃけ、10進数の0.1は2進数では表現できません。