double型で有効数字を使う

Question

題名の通りです。double型で有効数字の桁数を設定することは可能でしょうか？
可能ならばやり方を教えてください。
よろしくお願いします。

Answer 1

double型ではできません。

BigDecimalを使うと小数点以下の桁数を明示できますよ。

java.math.BigDecimal

---

訂正：小数点以下の桁数を明示できるというより、精度が明示できるというべきでしたね。
MathContextを使うと有効精度を明示して演算ができるようです。リファレンスをみつつ実際に試してみると分かりやすいかもしれません。

MathContext c = new MathContext(2);
BigDecimal b1 = new BigDecimal(BigInteger.valueOf(1234), 2);
System.out.println(b1);
BigDecimal b2 = BigDecimal.valueOf(256).multiply(BigDecimal.valueOf(256), c);
System.out.println(b2);
BigDecimal b3 = b1.divide(b2, c);
System.out.println(b3);

=>
12.34
6.6E+4
0.00019
こんな感じです。

Comments

[退会済みユーザー]

小数点以下ではなく有効数字の設定ができるものはありませんか？

[KSwordOfHaste]

あ、自分間違ったかもです。BigDecimalは精度が指定できたかも。使ったことがないので嘘言っているかも知れません。

[KSwordOfHaste]

BigDecimalの演算にMathContextを指定できるものがあり、MathContextで精度が指定できますね。

[退会済みユーザー]

有効数字の設定ができるものはないということですか？

[KSwordOfHaste]

精度＝有効数字と考えてよいと思います。上の例では最初の12.34は有効数字を指定してません。乗算と除算は有効数字２桁として演算しているので、それぞれ6.6E+4と0.00019と２桁になっています。

[退会済みユーザー]

12.34を精度3桁とすると12.3となるということですか？

[KSwordOfHaste]

ですね。

[swordone]

切り上げになれば12.4になります。

[KSwordOfHaste]

そうですね。そのあたりはMathContextのリファレンスを読んでいただきたいと思います。>one125さん

[退会済みユーザー]

ありがとうございます。