整数と整数で除算をした結果、浮動小数点になる場合に浮動小数点によるズレは生じるのでしょうか?
Golangで試しているのですが、例のような計算だとズレが生じません。
これは表示だけが0.1になっていて実際はズレているのでしょうか?
0.1が2進数で表せないため下記の例はズレが生じるのではないでしょうか?
例
(float64(10000) / 1000) / 100 = 0.1
試したこと
go
1 if ((float64(10000) / 1000) / 100) == 0.1 { 2 fmt.Println(true) 3 } else { 4 fmt.Println(false) 5 } 6 // true
回答2件
あなたの回答
tips
プレビュー
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。
2022/07/01 02:29