質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.33%

  • Java

    14427questions

    Javaは、1995年にサン・マイクロシステムズが開発したプログラミング言語です。表記法はC言語に似ていますが、既存のプログラミング言語の短所を踏まえていちから設計されており、最初からオブジェクト指向性を備えてデザインされています。セキュリティ面が強力であることや、ネットワーク環境での利用に向いていることが特徴です。Javaで作られたソフトウェアは基本的にいかなるプラットフォームでも作動します。

  • Android

    6735questions

    Androidは、Google社が開発したスマートフォンやタブレットなど携帯端末向けのプラットフォームです。 カーネル・ミドルウェア・ユーザーインターフェイス・ウェブブラウザ・電話帳などのアプリケーションやソフトウェアをひとつにまとめて構成。 カーネル・ライブラリ・ランタイムはほとんどがC言語/C++、アプリケーションなどはJavaSEのサブセットとAndroid環境で書かれています。

同じ式を表しているのに書き方を変えると数値が違うものになってしまいます

解決済

回答 3

投稿

  • 評価
  • クリップ 0
  • VIEW 449

ko20vonobird

score 41

前提・実現したいこと

紙に書いた数式をコード上で書き起こし、正確な値を得ることです。

発生している問題・エラーメッセージ

エラーメッセージはありません。
数式には交換法則がありますが、それに従って違った書き方の同じ数式を書くと、中身は同じはずなのに全く違った値になります。
また、正しい値(補足参照)が得られません。
下記のc1rの数式がそれです。

該当のソースコード

k1a = (winH * 253) / (winW * 246);//k = 項
            k2a = winW / 4;
            k3a = -1.0f;
            k4a = ((winW * 0.8105067459f) / 4);
            k5a = winW * 0.1473648629f;
            k6a = winH / 8;
            k7a = ((winH * 5) / 6);
            k8a = ((winH * 253) / 328);
            bsa = Math.abs((k1a * k2a) + (k3a * (k4a + k5a - k6a)) + k7a - k8a);//一つ目の書き方
            c1r = (float)(bsa / (Math.sqrt(Math.pow(k1a, 2) + Math.pow(k3a, 2))));
            c1r = (float)((Math.abs(((winH * winW * 253) / (winW * 4 * 246)) + (-1) * (((winW * 0.8105067459f) / 4) + (winW * 0.1473648629f) - (winH / 8)) + ((winH * 5) / 6) - ((winH * 253) / 328))) / (Math.sqrt(Math.pow(((winH * 253) / (winW * 246)), 2) + Math.pow(-1, 2))));//二つ目の書き方

試したこと

交換法則に従い順番を変えてみました。

補足

このc1rは円の半径に用いていて、上記のコードには載せていない直線と接するかで正しい値が得られているかを判断しています。

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 3

checkベストアンサー

+3

winHwinWが整数だと、k2a = winW / 4などでバシバシ切り捨てられてしまうので、正しい値が出ません。とりあえず、k2a = winW / 4.0というように浮動小数の計算に持ち込んでおきましょう。

(もちろん、寸分たがわぬ値を出したいというのであれば誤差の吟味も必要ですが、整数で切り捨てが発生してしまえば、それ以上に大問題です)

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2017/03/29 18:01

    他の方にも同じような回答があったのですが、winH=winH*1.0などすることで対応できますか?

    キャンセル

  • 2017/03/29 18:04

    winHの変数の型が整数であれば、全く無意味です。

    キャンセル

  • 2017/03/29 18:06

    なるほど、わかりました。

    キャンセル

  • 2017/03/29 18:15

    型が整数型ならコンパイルエラーだし、浮動小数点型なら意味ないですね。

    キャンセル

+3

winHやwinWが整数なら、すべての前提が崩れます。
整数同士の除算は小数切捨てなので、交換法則はおろか、最初のk1a*k2aに当たる計算も必ずしも等しくならなくなります。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2017/03/29 18:00

    こんにちは。
    ということは、winH=winH*1.0などして少数に直せばよいでしょうか?

    キャンセル

  • 2017/03/29 18:09

    他の方に教えていただき、ダメだということが分かりました。

    キャンセル

+1

プリミティブ型(float, double等)を使っているため計算に誤差が生じています。

全ての変数をBigDecimal型で扱い計算をすれば正しい値が得られます。

詳細は公式のJavaDocを参照された方が良いですが、四則演算をするにはザックリ以下のような感じです。
加算:BigDecimal#add(BigDecimal)
減産:BigDecimal#subtract(BigDecimal)
乗算:BigDecimal#multiply(BigDecimal)
除算: BigDecimal#divide(BigDecimal)

プリミティブ型での計算で誤差が生じる理由をかくに言葉足らずになるかと思うので、ご自身で検索された方が良いかと思います。

  • java
  • プリミティブ
  • 誤差

投稿

編集

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2017/03/29 18:03

    初めて聞きました、ありがとうございます。取り敢えず調べます。

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 90.33%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

同じタグがついた質問を見る

  • Java

    14427questions

    Javaは、1995年にサン・マイクロシステムズが開発したプログラミング言語です。表記法はC言語に似ていますが、既存のプログラミング言語の短所を踏まえていちから設計されており、最初からオブジェクト指向性を備えてデザインされています。セキュリティ面が強力であることや、ネットワーク環境での利用に向いていることが特徴です。Javaで作られたソフトウェアは基本的にいかなるプラットフォームでも作動します。

  • Android

    6735questions

    Androidは、Google社が開発したスマートフォンやタブレットなど携帯端末向けのプラットフォームです。 カーネル・ミドルウェア・ユーザーインターフェイス・ウェブブラウザ・電話帳などのアプリケーションやソフトウェアをひとつにまとめて構成。 カーネル・ライブラリ・ランタイムはほとんどがC言語/C++、アプリケーションなどはJavaSEのサブセットとAndroid環境で書かれています。