回答編集履歴
2
変なつなぎ修正
test
CHANGED
|
@@ -2,7 +2,7 @@
|
|
|
2
2
|
|
|
3
3
|
さらにシフト演算を利用すべく、「整数を掛けてシフトする」という計算をします。
|
|
4
4
|
|
|
5
|
-
そのため
|
|
5
|
+
その際の誤差を小さくするため、最初に掛ける整数の有効数字の桁数なるべく多くとります。
|
|
6
6
|
|
|
7
7
|
この作業の段階で対象の数字は16ビット以下なので、16ビットまでの整数であれば、
|
|
8
8
|
|
1
左シフトではなく右シフト ついでにコメントの内容を盛り込んで修正
test
CHANGED
|
@@ -1,25 +1,33 @@
|
|
|
1
|
-
「10で割る」ではなく、「0.1を掛ける」と考えてみましょう。
|
|
1
|
+
「10で割る」ではなく、「0.1を掛ける」と考えてみましょう。
|
|
2
2
|
|
|
3
|
+
さらにシフト演算を利用すべく、「整数を掛けてシフトする」という計算をします。
|
|
4
|
+
|
|
5
|
+
そのためには、最初に掛ける整数の有効数字の桁数が多いほうが誤差が少なくなります。
|
|
6
|
+
|
|
7
|
+
この作業の段階で対象の数字は16ビット以下なので、16ビットまでの整数であれば、
|
|
8
|
+
|
|
9
|
+
掛けても(符号なし整数の範囲で)オーバーフローしないということになります。
|
|
10
|
+
|
|
11
|
+
なので、整数部を16ビット取るように0.1の二進表記を変形します。
|
|
12
|
+
|
|
13
|
+
|
|
14
|
+
|
|
3
|
-
0.00011001100110011001100...で
|
|
15
|
+
十進数の0.1は二進法では0.00011001100110011001100...(2)なので、
|
|
4
16
|
|
|
5
17
|
0.00011001100110011001100...(2)
|
|
6
18
|
|
|
7
|
-
=0.11001100110011001100...(2)*2^-3
|
|
19
|
+
=0.11001100110011001100...(2)*2^-3 (小数首位まで0を指数表記に移す)
|
|
8
20
|
|
|
9
|
-
=1100110011001100.1100...(2)*2^-(3+16)
|
|
21
|
+
=1100110011001100.1100...(2)*2^-(3+16) (16ビットの有効数字を取るため16桁分指数に移す)
|
|
10
22
|
|
|
11
|
-
となります。「*2^-(3+16)」の部分は(3+16)ビットだけ
|
|
23
|
+
となります。「*2^-(3+16)」の部分は(3+16)ビットだけ右シフトと考えられるので、
|
|
12
24
|
|
|
13
|
-
|
|
25
|
+
1100110011001100(2)を掛けて19ビット下げれば、結果的に10で割ったことになります。
|
|
14
26
|
|
|
15
|
-
掛け算する時点で元の数字が二進数で16ビット以下なので、符号なし整数の範囲で考えれば
|
|
16
|
-
|
|
17
|
-
16ビットまでの掛け算であればオーバーフローしないことになります。
|
|
18
|
-
|
|
19
|
-
ただし、1100110011001100では0.1倍に満たず、10の倍数などの場合は切り捨てが起きて
|
|
27
|
+
ただし、1100110011001100(2)では0.1倍に満たず、10の倍数などの場合は切り捨てが起きて
|
|
20
28
|
|
|
21
29
|
0.1倍より1小さい値が出てしまう可能性があります。
|
|
22
30
|
|
|
23
|
-
そのため掛ける数を1増やし、1100110011001101にしているのでしょう。
|
|
31
|
+
そのため掛ける数を1増やし、1100110011001101(2)にしているのでしょう。
|
|
24
32
|
|
|
25
33
|
これを10進数に直すと、52429になります。
|