回答編集履歴

1

補足

2015/05/17 05:09

投稿

daive
daive

スコア2028

test CHANGED
@@ -1,3 +1,5 @@
1
+ >Javaのコード
2
+
1
3
  >Javaのコード
2
4
 
3
5
  という問題ではなく、浮動小数点演算や、数値の扱いの問題です。
@@ -5,6 +7,20 @@
5
7
  浮動小数点数に於いては、特定の数値との(例えば0かどうかという)比較は、
6
8
 
7
9
  必ずしも、成立しないという事があります。
10
+
11
+ つまり、条件文において、数値範囲を、使用しなければならない場合が、出ます。
12
+
13
+ これが嫌であれば、数値を適切な値に丸める必要があります。
14
+
15
+ コンピュータ資源が有限である事、小数部分で扱える数値が、何進数かで、異なる事、
16
+
17
+ 浮動小数点、固定小数点でも、丸め誤差が発生する事など。小数表現の限界。
18
+
19
+ (簡単な思考実験、2進数での循環小数は、10進数での循環小数と等しいですか?
20
+
21
+  それらは、固定小数点数、浮動小数点数で、どの様に異なりますか?
22
+
23
+  分数で表すことが出来きる数値 ≠ 小数で表す事が出来る数値 は、習いましたよね?)
8
24
 
9
25
 
10
26