aaaaaaaa2018/03/14 10:20ご回答ありがとうございます。 "厳密な値"を調べたいとき、絶対値が10^-37より小さい値を扱う場面を除くということは、10進数にしてだいたい16桁ほどしか精度がないもののその二つの場面に出くわすときには浮動小数点数は、役に立つということでしょうか。
maisumakun2018/03/14 13:17例えば、電卓も8桁~12桁しかありませんが、十分実用になります。 以前に別な質問で回答しましたが、16桁で足りなくなるのは、数学的な世界の話ぐらいだろうと考えています(例えば機械加工の場合、1メートルの16桁下となれば原子核より小さい寸法なので、考慮すべき範囲を遥かに下回っています)。
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。
2018/03/14 10:20
2018/03/14 13:17