swift float型のテスト

Question

let actual:Float = 0.01*10
let expected:Float = 0.1

XCTAssert(actual == expected) 

手計算だとactualは0.1になります。
しかし、xcode上でデバックをすると0.0999999994となってしまいテストが失敗してしまいます。
なぜでしょうか？
また具体的な対策はどのようにすると良いでしょうか？

Answer 1

Swiftに限りませんが、浮動小数点のイコールチェックにはEPSILONを使います。
計算機イプシロン

SwiftではulpOfOneを使います。（以前は、FLT_EPSILONやDBL_EPSILONを使っていました）

abs(actual.distance(to: expected)) < .ulpOfOne

「差がイプシロン未満なら等しいとみなす」ということです。

修正

distance(to:)は絶対値だと思っていたら違ってました。abs()で囲って下さい。
素直にabs(actual - expected)でいいかも。

Comments

[L85A2]

なるほど
ありがとうございます

[fuzzball]

重要な修正を行いましたので確認して下さい。

[L85A2]

了解です。
自分も絶対値だと思っていたので助かります。

Answer 2

「浮動小数点　桁落ち」でぐぐってみてください。

ご存知のように、コンピュータの世界では２進数で表現されます
これが整数であれば問題はないんですが、少数点の世界になると、１０進数の世界から見るとズレが出て来てしまいます。

早い話が、２進数では、0.01 という数値は表現できません

以上を踏まえ、なにをもって対策、とするのかを決める必要があります