質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

88.91%

3 * 1.3 = 3.9にならない件

解決済

回答 5

投稿 編集

  • 評価
  • クリップ 1
  • VIEW 2,178

Clementine

score 106

以下の値が、3.9000000000000004になってしまいます。

 $('#target').val(3 * 1.3);


これを3.9と正しく計算する方法をご教授ください。

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 過去に投稿した質問と同じ内容の質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 5

checkベストアンサー

+4

JavaScriptで1.3というリテラルは 1.3 という十進数の浮動小数点数の値ではありません

console.log((1.3).toFixed(20));


実行結果

つまり、1.3と書いた時点で正確ではないので、その計算結果も正確であるとは限りません。JavaScriptの数値は、-9007199254740991から9007199254740991までの整数と、2倍を繰り返すと整数になる一部の小数点数だけが正確に表現可能であり、それ以外は近似値であって正確な計算はできないのです。

これは、JavaScriptでの数値がIEEE 754-2008の64ビット倍精度浮動小数点数を表現しているためであり、詳しくは倍精度浮動小数点数について調べてください。


では、どうするのかというと、いくつかの方法があります。

結果を意味のある精度で丸める。

倍精度浮動小数点数では10進数表記の精度は15桁ほどです。逆に言うと1.3という数値は15桁までは正確であるとも言えます。ただ、精度の桁数計算(計算結果によって何桁までは正確であると判断するか)は複雑です。どちらかというと、意味がある桁数までしか見ないとした方が有用です。今回の場合は、小数点数2桁目以降は関心が無いとして、丸めることにします。丸めるにはMath.round()がありますが、整数になってしまいます。ですので、10倍してから10で割ります。

$('#target').val(Math.round((3 * 1.3) * 10) / 10);

気をつけて欲しいのは3.9も依然として、 3.9 という十進数の浮動小数点数の近似値にすぎないと言うことに気をつけてください。

実際は、表示の時だけ丸めた方が有用と思います。

整数として計算する。

1.3を10倍にして整数にしてしまえば精度の問題は解決します。-9007199254740991から9007199254740991までの整数は正確に計算できるからです。

$('#target').val((3 * Math.round(1.3 * 10)) / 10);

実際は、最初から最後まで整数としてデータを扱った方が良いと思います。

任意精度小数点数が扱えるライブラリを使う。

十進数を任意の制度で計算するためのライブラリがあります。それらを使えば問題なく計算できます。ライブラリはいくつかありますが、decimal.jsを使った場合は、次のようになります。

$('#target').val(new Decimal('3').mul(new Decimal('1.3')).toNumber());

任意精度小数点数は処理が重くなりがちなので、本当に必要な場合は使わない方が良いでしょう。また、精度に関する知識が無いと、正確な精度を把握できません。

その他

1.3を13/10という有理数として計算するというのもあります。有理数ライブラリもあるようですので、探してみてください。ただし、有理数計算は総じて重いです。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

+4

解決方法も含めてなぜそうなるかはこちらを一読してください。
JavaScriptでの小数点の計算の誤差について

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

+4

基本は小数点以下の計算をしないことです。

console.log(3*1.3);
console.log(3*13/10);

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2017/05/27 07:30

    分かりやすいけど、わかりにくいw

    キャンセル

+2

多分、みんな一度は疑問に思う(つまり、ハマるw)点ですよね。
言語別?計算誤差に関して
上記は以前私がした質問です。

raccy さんが別の表現で解説してくれています。
多分、後輩に注意しまくっているんで、なれているんでしょうねw
小数点以下の数字を正確に処理することは、自身の作成する数式への理解と、計算機の行う処理への理解の双方が十分でないと、難しいです。

結論として、yambejp さんの回答のように、小数点以下の計算をさせないことが、簡単な解だと思います。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

+1

10桁の文字列にして末尾のゼロを削除とか
$('#target').val((3*1.3).toPrecision(10).replace(/0*$/,'')); //3.9

計算結果が大きな桁だと変な値になりますけどね。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2017/05/27 01:53

    (3*1.3).toString().replace(/(\d*\.\d*?)000.*$/,'$1');
    小数点の後ろでゼロが3つ以上続いたらそれとその後は削除とか

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 88.91%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

同じタグがついた質問を見る