UnityでC#を使い以下のような計算をしました。
public float Note_end_point_x = -9;
public float Note_end_point_y = 0.2585f;
float V_point_graf = 0;
float minus_jct = -8.7415f;
V_point_graf = (-1) * Note_end_point_x + minus_jct;
要するに
y = (-1) * -9 + (-8.7415)という計算になり答えは0.2585になるはずですが、
0.2585001となってしまいます。
これ自体はfloat型を使用することによる誤差ということらしいのですが、
これを正しい答えに補正する方法がわかりません。
小数点指定桁で切り捨てる処理ができればいいのですが上手い方法が見つかりません。
解決策をご教授いただけませんでしょうか?
回答2件
あなたの回答
tips
プレビュー
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。