MySQLでdecimal型の数値の累乗結果が期待通りでない

Question

MySQLでDECIMAL(8,4)で定義したカラムの値を累乗した結果が切り捨てにならないケースがあります。
累乗の結果を登録する親テーブルa_tblと累乗する値を登録している子テーブルb_tblを用意しました。

親テーブルidが1の累乗結果を見るとTRUCATE処理する前も後も小数点以下４桁で切り上げされています。
1.04001.00000.93000.91000.93000.93001.0000*1.0000=0.7613
手計算やエクセル、電卓で計算した結果は0.7612434648となり、これを小数点以下４桁で切り捨てれば0.7612となるはずです。

なお、親テーブルidが2の累乗結果については、TRUCATE処理する前も後も小数点以下４桁で切り捨てられています。
0.99001.00000.93000.91001.00001.00001.0000*1.0000=0.8378
手計算やエクセル、電卓で計算した結果は0.837837となり、MySQLの計算結果と一致しています。

１つ目の例がなぜ切捨てではなく、切り上げになっているのでしょうか？

やりたいことは、
累乗する元の値、以下の例ではb_tbl.bairitsuはDECIMAL(8,4)の値として管理し、
累乗計算は倍精度で行い、累乗計算が終わった段階で、小数点以下４桁で切捨てて、DECIMAL(8,4)の値として保存する。

DROP TABLES IF exists a_tbl,b_tbl;

# 親テーブル
CREATE TABLE IF NOT EXISTS a_tbl (
id INT(11) COMMENT 'id',
t_bairitsu DECIMAL(8,4) DEFAULT 1.0 COMMENT '倍率の累乗',
PRIMARY KEY (id)
) ENGINE=InnoDB DEFAULT CHARSET=cp932;

INSERT INTO a_tbl(id) VALUES (1),(2);

# 子テーブル
CREATE TABLE IF NOT EXISTS b_tbl (
a_id INT(11) COMMENT 'a_tblのid',
b_id INT(11) COMMENT 'a_tblのid',
hiritsu varchar(10) COMMENT '比率％',
bairitsu DECIMAL(8,4) DEFAULT 1.0 COMMENT '倍率',
PRIMARY KEY (a_id,b_id)
) ENGINE=InnoDB DEFAULT CHARSET=cp932;

# b_tblにhiritsuの入力
INSERT INTO b_tbl(a_id,b_id,hiritsu) VALUES
(1,1,4),(1,2,0),(1,3,-7),(1,4,-9),(1,5,-7),(1,6,-7),(1,7,0),(1,8,0),
(2,1,-1),(2,2,0),(2,3,-7),(2,4,-9),(2,5,0),(2,6,0),(2,7,0),(2,8,0);

# b_tblのbairitsuの設定（切捨て）
update b_tbl SET bairitsu = TRUNCATE(( 100.0 + hiritsu) / 100.0 ,2);

# b_tblのデータ確認
select * from b_tbl;

# a_tblのt_bairitsuの累乗
update a_tbl as a LEFT JOIN (SELECT * FROM b_tbl WHERE b_id = 1 ) AS b ON a.id = b.a_id
 SET t_bairitsu = t_bairitsu * b.bairitsu where b.b_id IS NOT NULL;
update a_tbl as a LEFT JOIN (SELECT * FROM b_tbl WHERE b_id = 2 ) AS b ON a.id = b.a_id
 SET t_bairitsu = t_bairitsu * b.bairitsu where b.b_id IS NOT NULL;
update a_tbl as a LEFT JOIN (SELECT * FROM b_tbl WHERE b_id = 3 ) AS b ON a.id = b.a_id
 SET t_bairitsu = t_bairitsu * b.bairitsu where b.b_id IS NOT NULL; 
update a_tbl as a LEFT JOIN (SELECT * FROM b_tbl WHERE b_id = 4 ) AS b ON a.id = b.a_id
 SET t_bairitsu = t_bairitsu * b.bairitsu where b.b_id IS NOT NULL;
update a_tbl as a LEFT JOIN (SELECT * FROM b_tbl WHERE b_id = 5 ) AS b ON a.id = b.a_id
 SET t_bairitsu = t_bairitsu * b.bairitsu where b.b_id IS NOT NULL;
update a_tbl as a LEFT JOIN (SELECT * FROM b_tbl WHERE b_id = 6 ) AS b ON a.id = b.a_id
 SET t_bairitsu = t_bairitsu * b.bairitsu where b.b_id IS NOT NULL;
update a_tbl as a LEFT JOIN (SELECT * FROM b_tbl WHERE b_id = 7 ) AS b ON a.id = b.a_id
 SET t_bairitsu = t_bairitsu * b.bairitsu where b.b_id IS NOT NULL;
update a_tbl as a LEFT JOIN (SELECT * FROM b_tbl WHERE b_id = 8 ) AS b ON a.id = b.a_id
 SET t_bairitsu = t_bairitsu * b.bairitsu where b.b_id IS NOT NULL;

# a_tblの切捨て処理前のデータ確認
select * from a_tbl;

#切捨て処理
update a_tbl SET t_bairitsu = TRUNCATE(t_bairitsu,4);

# a_tblの切捨て処理後のデータ確認
select * from a_tbl;

環境：
MySQL 5.7.18-log
OS:Winows 7

Answer 1

累乗計算は倍精度で行い

であれば、a_tbl.t_bairitsuがDOUBLEである必要があります。ここがDECIMAL(8,4)となっているので、掛け算1回毎に小数点以下4位での丸めが入ってしまいます。

Comments

[ochiaishiro]

ありがとうございました。おっしゃるとおりの結果となりました。
計算途中の値を記録するカラムを追加し、解決しました。