同じ式を表しているのに書き方を変えると数値が違うものになってしまいます

Question

###前提・実現したいこと
紙に書いた数式をコード上で書き起こし、正確な値を得ることです。

###発生している問題・エラーメッセージ
エラーメッセージはありません。
数式には交換法則がありますが、それに従って違った書き方の同じ数式を書くと、中身は同じはずなのに全く違った値になります。
また、正しい値（補足参照）が得られません。
下記のc1rの数式がそれです。

###該当のソースコード

k1a = (winH * 253) / (winW * 246);//k = 項
            k2a = winW / 4;
            k3a = -1.0f;
            k4a = ((winW * 0.8105067459f) / 4);
            k5a = winW * 0.1473648629f;
            k6a = winH / 8;
            k7a = ((winH * 5) / 6);
            k8a = ((winH * 253) / 328);
            bsa = Math.abs((k1a * k2a) + (k3a * (k4a + k5a - k6a)) + k7a - k8a);//一つ目の書き方
            c1r = (float)(bsa / (Math.sqrt(Math.pow(k1a, 2) + Math.pow(k3a, 2))));
            c1r = (float)((Math.abs(((winH * winW * 253) / (winW * 4 * 246)) + (-1) * (((winW * 0.8105067459f) / 4) + (winW * 0.1473648629f) - (winH / 8)) + ((winH * 5) / 6) - ((winH * 253) / 328))) / (Math.sqrt(Math.pow(((winH * 253) / (winW * 246)), 2) + Math.pow(-1, 2))));//二つ目の書き方

###試したこと
交換法則に従い順番を変えてみました。

###補足
このc1rは円の半径に用いていて、上記のコードには載せていない直線と接するかで正しい値が得られているかを判断しています。

Answer 1

winHやwinWが整数だと、k2a = winW / 4などでバシバシ切り捨てられてしまうので、正しい値が出ません。とりあえず、k2a = winW / 4.0というように浮動小数の計算に持ち込んでおきましょう。

（もちろん、寸分たがわぬ値を出したいというのであれば誤差の吟味も必要ですが、整数で切り捨てが発生してしまえば、それ以上に大問題です）

Comments

[ko20vonobird]

他の方にも同じような回答があったのですが、winH=winH*1.0などすることで対応できますか？

[maisumakun]

winHの変数の型が整数であれば、全く無意味です。

[ko20vonobird]

なるほど、わかりました。

[swordone]

型が整数型ならコンパイルエラーだし、浮動小数点型なら意味ないですね。

Answer 2

winHやwinWが整数なら、すべての前提が崩れます。
整数同士の除算は小数切捨てなので、交換法則はおろか、最初のk1a*k2aに当たる計算も必ずしも等しくならなくなります。

Comments

[ko20vonobird]

こんにちは。
ということは、winH=winH*1.0などして少数に直せばよいでしょうか？

[ko20vonobird]

他の方に教えていただき、ダメだということが分かりました。

Answer 3

プリミティブ型(float, double等)を使っているため計算に誤差が生じています。

全ての変数をBigDecimal型で扱い計算をすれば正しい値が得られます。

詳細は公式のJavaDocを参照された方が良いですが、四則演算をするにはザックリ以下のような感じです。
加算:BigDecimal#add(BigDecimal)
減産:BigDecimal#subtract(BigDecimal)
乗算:BigDecimal#multiply(BigDecimal)
除算: BigDecimal#divide(BigDecimal)

プリミティブ型での計算で誤差が生じる理由をかくに言葉足らずになるかと思うので、ご自身で検索された方が良いかと思います。

• java
• プリミティブ
• 誤差

Comments

[ko20vonobird]

初めて聞きました、ありがとうございます。取り敢えず調べます。