teratail header banner
teratail header banner
質問するログイン新規登録

回答編集履歴

1

浮動小数点演算をすることを明記

2019/12/06 03:47

投稿

sage
sage

スコア1240

answer CHANGED
@@ -1,3 +1,3 @@
1
1
  浮動小数点演算の誤差がでているのではないでしょうか?
2
2
  (未確認ですが)
3
- 整数値になるよう、Dの1000倍の値を使って処理し、判定のところだけ1000で割って処理したらどうでしょうか?
3
+ 整数値になるよう、Dの1000倍の値を使って処理し、判定のところだけ1000.0で割って(浮動小数点演算になっていることを確認して)処理したらどうでしょうか?