質問編集履歴
1
言葉遣いの修正、質問の追加
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -1,26 +1,34 @@
|
|
|
1
1
|
いつもお世話になっております。
|
|
2
2
|
|
|
3
|
-
表題の
|
|
3
|
+
表題の件で質問させてください。
|
|
4
4
|
|
|
5
5
|
|
|
6
6
|
|
|
7
|
-
固定小数と浮動小数で同じ数値でどれだけ誤差が発生するのかを調査して
|
|
7
|
+
固定小数と浮動小数で同じ数値でどれだけ誤差が発生するのかを調査して欲しいと頼まれました。
|
|
8
8
|
|
|
9
9
|
どっちもよくわかりませんが、浮動小数を以下のサイトで勉強しました。
|
|
10
|
+
|
|
11
|
+
|
|
10
12
|
|
|
11
13
|
https://itmanabi.com/fixed-floating/
|
|
12
14
|
|
|
13
15
|
|
|
14
16
|
|
|
15
|
-
以下の説明で表題の0.375はどう表示させるかが記載されている
|
|
17
|
+
以下の説明で表題の0.375はどう表示させるかが記載されているのですが
|
|
16
18
|
|
|
17
19
|
|
|
18
20
|
|
|
19
21
|
|
|
20
22
|
|
|
21
|
-
0 01111101 10000000000000000000000 ではない
|
|
23
|
+
0 01111101 10000000000000000000000 ではないでしょうか？
|
|
22
24
|
|
|
23
|
-
指数部は変更できるので0.11e-1でも1.1e-2でも良い
|
|
25
|
+
指数部は変更できるはずなので、0.011の表記は0.11e-1でも1.1e-2でも良いですよね？
|
|
26
|
+
|
|
27
|
+
|
|
28
|
+
|
|
29
|
+
あとは浮動小数点で以下の要領で同じ数字を足しこんでいくと誤差はどうなるのでしょうか？（固定小数の場合は誤差が開いていくと認識していますが）
|
|
30
|
+
|
|
31
|
+
|
|
24
32
|
|
|
25
33
|
|
|
26
34
|
|