質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.49%
Go

Go(golang)は、Googleで開発されたオープンソースのプログラミング言語です。

浮動小数点

浮動小数点は、コンピュータが数値を扱う際に実数を表現する方法のひとつです。 数値を、それぞれの桁の値が並んでいる仮数部と、小数点の場所を示す指数部で表します。

Q&A

解決済

2回答

570閲覧

浮動小数点 整数と整数の除算でfloat64型の値になる場合について

sho.cat

総合スコア5

Go

Go(golang)は、Googleで開発されたオープンソースのプログラミング言語です。

浮動小数点

浮動小数点は、コンピュータが数値を扱う際に実数を表現する方法のひとつです。 数値を、それぞれの桁の値が並んでいる仮数部と、小数点の場所を示す指数部で表します。

0グッド

0クリップ

投稿2022/06/28 08:33

整数と整数で除算をした結果、浮動小数点になる場合に浮動小数点によるズレは生じるのでしょうか?
Golangで試しているのですが、例のような計算だとズレが生じません。
これは表示だけが0.1になっていて実際はズレているのでしょうか?
0.1が2進数で表せないため下記の例はズレが生じるのではないでしょうか?

(float64(10000) / 1000) / 100 = 0.1

試したこと

go

1 if ((float64(10000) / 1000) / 100) == 0.1 { 2 fmt.Println(true) 3 } else { 4 fmt.Println(false) 5 } 6 // true

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答2

0

ベストアンサー

0.1が2進数で表せないため

確かにその通りなのですが、内部表現(IEEE 754 形式)としては一致していますので true になるわけです。

go

1package main 2 3import ( 4 "fmt" 5 "math" 6) 7 8func main() { 9 e := (float64(10000) / 1000) / 100 10 f := 0.1 11 fmt.Printf("%.22f\n", e) 12 fmt.Printf("%.22f\n", f) 13 fmt.Printf("%b\n", math.Float64bits(e)) 14 fmt.Printf("%b\n", math.Float64bits(f)) 15} 16 17// 0.1000000000000000055511 18// 0.1000000000000000055511 19// 11111110111001100110011001100110011001100110011001100110011010 20// 11111110111001100110011001100110011001100110011001100110011010

投稿2022/06/28 09:09

melian

総合スコア19703

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

sho.cat

2022/07/01 02:29

ご返信ありがとうございます。 なるほど内部表現は一致しているのでtrueになるが 値としては浮動小数点のズレがおきていたのですね ありがとうございます。納得しました。
guest

0

0.1が2進数で表せないため下記の例はズレが生じるのではないでしょうか?

条件によっては同じ値になることもありえます。

投稿2022/06/28 08:37

maisumakun

総合スコア145183

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

sho.cat

2022/06/28 08:54

ご返信ありがとうございます。 合わない場合もあるということでしょうか? 少し聞き方が変わるのですが、 すべて整数に計算した後、最後に1000などで割って桁調整をする場合 小数点の誤差がでることもあるのでしょうか?
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.49%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問