質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.76%

  • MySQL

    5531questions

    MySQL(マイエスキューエル)は、TCX DataKonsultAB社などが開発するRDBMS(リレーショナルデータベースの管理システム)です。世界で最も人気の高いシステムで、オープンソースで開発されています。MySQLデータベースサーバは、高速性と信頼性があり、Linux、UNIX、Windowsなどの複数のプラットフォームで動作することができます。

MySQLでdecimal型の数値の累乗結果が期待通りでない

解決済

回答 1

投稿 編集

  • 評価
  • クリップ 0
  • VIEW 249

ochiaishiro

score 18

MySQLでDECIMAL(8,4)で定義したカラムの値を累乗した結果が切り捨てにならないケースがあります。
累乗の結果を登録する親テーブルa_tblと累乗する値を登録している子テーブルb_tblを用意しました。

親テーブルidが1の累乗結果を見るとTRUCATE処理する前も後も小数点以下4桁で切り上げされています。
1.0400*1.0000*0.9300*0.9100*0.9300*0.9300*1.0000*1.0000=0.7613
手計算やエクセル、電卓で計算した結果は0.7612434648となり、これを小数点以下4桁で切り捨てれば0.7612となるはずです。

なお、親テーブルidが2の累乗結果については、TRUCATE処理する前も後も小数点以下4桁で切り捨てられています。
0.9900*1.0000*0.9300*0.9100*1.0000*1.0000*1.0000*1.0000=0.8378
手計算やエクセル、電卓で計算した結果は0.837837となり、MySQLの計算結果と一致しています。

1つ目の例がなぜ切捨てではなく、切り上げになっているのでしょうか?

やりたいことは、
累乗する元の値、以下の例ではb_tbl.bairitsuはDECIMAL(8,4)の値として管理し、
累乗計算は倍精度で行い、累乗計算が終わった段階で、小数点以下4桁で切捨てて、DECIMAL(8,4)の値として保存する。

DROP TABLES IF exists a_tbl,b_tbl;

# 親テーブル
CREATE TABLE IF NOT EXISTS a_tbl (
id INT(11) COMMENT 'id',
t_bairitsu DECIMAL(8,4) DEFAULT 1.0 COMMENT '倍率の累乗',
PRIMARY KEY (id)
) ENGINE=InnoDB DEFAULT CHARSET=cp932;

INSERT INTO a_tbl(id) VALUES (1),(2);

# 子テーブル
CREATE TABLE IF NOT EXISTS b_tbl (
a_id INT(11) COMMENT 'a_tblのid',
b_id INT(11) COMMENT 'a_tblのid',
hiritsu varchar(10) COMMENT '比率%',
bairitsu DECIMAL(8,4) DEFAULT 1.0 COMMENT '倍率',
PRIMARY KEY (a_id,b_id)
) ENGINE=InnoDB DEFAULT CHARSET=cp932;

# b_tblにhiritsuの入力
INSERT INTO b_tbl(a_id,b_id,hiritsu) VALUES
(1,1,4),(1,2,0),(1,3,-7),(1,4,-9),(1,5,-7),(1,6,-7),(1,7,0),(1,8,0),
(2,1,-1),(2,2,0),(2,3,-7),(2,4,-9),(2,5,0),(2,6,0),(2,7,0),(2,8,0);

# b_tblのbairitsuの設定(切捨て)
update b_tbl SET bairitsu = TRUNCATE(( 100.0 + hiritsu) / 100.0 ,2);

# b_tblのデータ確認
select * from b_tbl;

# a_tblのt_bairitsuの累乗
update a_tbl as a LEFT JOIN (SELECT * FROM b_tbl WHERE b_id = 1 ) AS b ON a.id = b.a_id
 SET t_bairitsu = t_bairitsu * b.bairitsu where b.b_id IS NOT NULL;
update a_tbl as a LEFT JOIN (SELECT * FROM b_tbl WHERE b_id = 2 ) AS b ON a.id = b.a_id
 SET t_bairitsu = t_bairitsu * b.bairitsu where b.b_id IS NOT NULL;
update a_tbl as a LEFT JOIN (SELECT * FROM b_tbl WHERE b_id = 3 ) AS b ON a.id = b.a_id
 SET t_bairitsu = t_bairitsu * b.bairitsu where b.b_id IS NOT NULL; 
update a_tbl as a LEFT JOIN (SELECT * FROM b_tbl WHERE b_id = 4 ) AS b ON a.id = b.a_id
 SET t_bairitsu = t_bairitsu * b.bairitsu where b.b_id IS NOT NULL;
update a_tbl as a LEFT JOIN (SELECT * FROM b_tbl WHERE b_id = 5 ) AS b ON a.id = b.a_id
 SET t_bairitsu = t_bairitsu * b.bairitsu where b.b_id IS NOT NULL;
update a_tbl as a LEFT JOIN (SELECT * FROM b_tbl WHERE b_id = 6 ) AS b ON a.id = b.a_id
 SET t_bairitsu = t_bairitsu * b.bairitsu where b.b_id IS NOT NULL;
update a_tbl as a LEFT JOIN (SELECT * FROM b_tbl WHERE b_id = 7 ) AS b ON a.id = b.a_id
 SET t_bairitsu = t_bairitsu * b.bairitsu where b.b_id IS NOT NULL;
update a_tbl as a LEFT JOIN (SELECT * FROM b_tbl WHERE b_id = 8 ) AS b ON a.id = b.a_id
 SET t_bairitsu = t_bairitsu * b.bairitsu where b.b_id IS NOT NULL;

# a_tblの切捨て処理前のデータ確認
select * from a_tbl;

#切捨て処理
update a_tbl SET t_bairitsu = TRUNCATE(t_bairitsu,4);

# a_tblの切捨て処理後のデータ確認
select * from a_tbl;


環境:
MySQL 5.7.18-log
OS:Winows 7

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 1

checkベストアンサー

+2

累乗計算は倍精度で行い

であれば、a_tbl.t_bairitsuDOUBLEである必要があります。ここがDECIMAL(8,4)となっているので、掛け算1回毎に小数点以下4位での丸めが入ってしまいます。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2017/10/13 16:01

    ありがとうございました。おっしゃるとおりの結果となりました。
    計算途中の値を記録するカラムを追加し、解決しました。

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 90.76%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

同じタグがついた質問を見る

  • MySQL

    5531questions

    MySQL(マイエスキューエル)は、TCX DataKonsultAB社などが開発するRDBMS(リレーショナルデータベースの管理システム)です。世界で最も人気の高いシステムで、オープンソースで開発されています。MySQLデータベースサーバは、高速性と信頼性があり、Linux、UNIX、Windowsなどの複数のプラットフォームで動作することができます。