いつもお世話になっております。
表題の件で質問させてください。
固定小数と浮動小数で同じ数値でどれだけ誤差が発生するのかを調査して欲しいと頼まれました。
どっちもよくわかりませんが、浮動小数を以下のサイトで勉強しました。
https://itmanabi.com/fixed-floating/
以下の説明で表題の0.375はどう表示させるかが記載されているのですが
0 01111101 10000000000000000000000 ではないでしょうか?
指数部は変更できるはずなので、0.011の表記は0.11e-1でも1.1e-2でも良いですよね?
あとは浮動小数点で以下の要領で同じ数字を足しこんでいくと誤差はどうなるのでしょうか?(固定小数の場合は誤差が開いていくと認識していますが)
上記の回答を頂いた上で、馬鹿でも分かる浮動小数の説明がありましたら是非教えてください。
回答2件
あなたの回答
tips
プレビュー
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。
2019/12/25 14:29