Double型で扱えるデータ

Question

Double型（符号部1ビット、仮数部52ビット、指数部11ビット）
で小数点第3位まで表示で扱える最大値を教えて頂けませんでしょうか？
また求め方も教えて頂ければ幸いです。

Comments

[ikadzuchi]

注意点ですが、Arduino(Unoなど)のdoubleはfloatと同じく32bit精度です。
http://www.musashinodenpa.com/arduino/ref/index.php?f=0&pos=1252

Answer 1

桁だけで言うと、まずdouble型変数に格納される仮数部は52ビットなのですが、（ゼロでない数値の）仮数部の最上位は常に1なので常に1と決まっているものを変数に格納するのは無駄ということで、最上位の1は格納されていません。
数値としての仮数部は2進53桁になります。あとは、2の53乗が10の何乗かですが、高校数学を学んでいる前提で書くと、

2**53 = 10**X
53*log2 = X*log10
X = 53 * (log2/log10) ≒ 53 * 0.3010 = 15.953

なので、小数部分に3桁使うと整数部分は13桁弱になります。12桁であれば大丈夫です。

Comments

[otn]

念のためですが、10進の0.1のような「2の冪乗の有限個の和で表せない数値」は正確に表現できませんよ。

[1079]

ご回答をありがとうございます。
教えて頂いた求め方にて解決できました。
ありがとうございます。