回答編集履歴

1

おかしな所を修正

2016/02/26 13:36

投稿

swordone
swordone

スコア20651

test CHANGED
@@ -12,4 +12,4 @@
12
12
 
13
13
  この1.10011...の小数点以下の23桁分が仮数に入ります(整数部分を1とした時の小数部分最大23桁が格納される)。指数には-4が記録されます(実際に格納される値は規則に従い異なる値になる)。
14
14
 
15
- このように表現された値が順次足しあわされていきます。当然足しあわされて桁が上がっていきますが、最下位は0のままです。仮数部に1100が最大限埋まっていることで0.1を表現できていましたが、くり返し足すことでいずれ最下位の0が多くなり、0.1が正確に表せなくなます。その結果、2.8になるべきところが、2.7999…という値になったのです。
15
+ このように表現された値が順次足しあわされていきます。当然足しあわされて桁が上がっていきますが、最下位は0のままです。仮数部に1100が最大限埋まっていることで0.1を表現ていましたが、くり返し足すことでいずれ最下位の0が多くなり、0.1とのずれ大きくなっていきます。その結果、2.8になるべきところが、2.7999…という値になったのです。