質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
PostgreSQL

PostgreSQLはオープンソースのオブジェクトリレーショナルデータベース管理システムです。 Oracle Databaseで使われるPL/SQLを参考に実装されたビルトイン言語で、Windows、 Mac、Linux、UNIX、MSなどいくつものプラットフォームに対応しています。

Q&A

解決済

2回答

7230閲覧

postgresでの小数計算について

ware

総合スコア27

PostgreSQL

PostgreSQLはオープンソースのオブジェクトリレーショナルデータベース管理システムです。 Oracle Databaseで使われるPL/SQLを参考に実装されたビルトイン言語で、Windows、 Mac、Linux、UNIX、MSなどいくつものプラットフォームに対応しています。

0グッド

0クリップ

投稿2019/08/29 06:03

270 × (110 / 108)という計算を行いたいと思い、以下の3つを試してみました。
1と2については、「110 / 108」の丸めの桁数が違うので結果に差が出ることは分かるのですが、1と3が同じになる理由が分かりません。
なぜなのでしょうか…?

1.割られる数をfloat型に変換する
select 270 * cast(110 as float) / 108
→結果は「275」になります。

2.割られる数に1.0をかける
select 270 * (110 * 1.0 / 108)
→結果は「274.999999999999995」になります。

3.割られる数をdecimal型に変換する
select 270 * cast(110 as decimal) / 108
→結果は「275」になります。

補足

1の「cast(110 as float) / 108」の部分を実行すると、「1.01851851851852」になります。
2の「110 * 1.0 / 108」の部分を実行すると、「1.0185185185185185」になります。
3の「cast(110 as decimal) / 108」の部分を実行すると、「1.0185185185185185」になります。
なので、2と3が同じになると思ったのですが1と3が同じ結果になって疑問に思っています。

環境

PostgreSQL 9.2.23

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答2

0

2にカッコがあるので、1と3との演算順序が異なり、結果も違います。
また、1は小数点以下が発生しないので、誤差は生じません。

投稿2019/08/29 06:18

編集2019/08/29 06:20
sazi

総合スコア25173

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

ware

2019/08/29 06:25

普通に算数の問題でしたね…汗 ご回答、ありがとうございます!
guest

0

ベストアンサー

1と3が同じになる理由が分かりません。

1では掛け算が先に進むので、270 * 110.0が先に計算されますが、これは108で割り切れるので、浮動小数点数による誤差が発生せず、正確に計算できます。

投稿2019/08/29 06:21

maisumakun

総合スコア145183

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

ware

2019/08/29 06:25

普通に算数の問題でしたね…汗 ご回答、ありがとうございます!
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問