Q&A
精度では？例えばどういう計算をした値が入るものなのですか？座標？
変数Aと、変数Bがあり中身は同じなのに
if(A == B)で、同じと判定されません。
GetType()すると、両方とも、System.Singleです。
数字は両方、１や、２や、３等では駄目ですが、０のみ同じと判定されます。
また、ToString()や、(float)でキャストしてやると、０以外の数字でも同じと判定されます。
何か原因は考えられますでしょうか？
お返事ありがとうをございます。自分も精度かと思ったのですが、floatにキャストしてやると同じと判定されるんです。値はunityのスライダーバーの値ですが、1や２や３で強制的にスナップされています。
回答2件
0
ベストアンサー
追記
次のように回答していましたが、System.Single は参照型でなく 別の問題だろうとご指摘をいただきました。（Zuishinさんありがとうございます）
文字列型の場合は値を比較しますが、そうでない参照型の場合はインスタンスが同じものかどうかで判断されます。ただし、==演算子や、!=演算子のふるまいを上書きしていないはその限りではありません。
組み込みの値型の場合、等値演算子 (==) ではオペランドの値が等しい場合に true が返され、それ以外の場合は false が返されます。 string 以外の参照型の場合、== では 2 つのオペランドが同じオブジェクトを参照する場合に true が返されます。 string 型の場合は、== は文字列の値を比較します。
ユーザー定義の値の型は == 演算子をオーバーロードできます (「演算子」を参照)。 ユーザー定義参照型もオーバーロードはできますが、既定では、組み込み参照型とユーザー定義参照型のいずれに対しても == は前述のとおりに機能します。 == をオーバーロードする場合は、!= もオーバーロードする必要があります。 整数型に対する演算は、通常、列挙型で使用できます。
投稿2018/11/02 08:00
編集2018/11/02 08:19
退会済みユーザー
総合スコア0
System.Single なので参照型ではありません。
https://docs.microsoft.com/ja-jp/dotnet/api/system.single?view=netframework-4.7.2
小数の double に対してもっと精度の低い single という型があります。
多分誤差の問題でしょうね。
お返事ありがとうございます。数字が両方０なら同じと判定されるので
そこらへんは問題ないかと思ったのですが、何か確認する方法はないでしょうか？
私の貼ったリンク先の「等しいかどうかテスト」のところにヒントがあるかもしれません。
Zuishinさん ご指摘ありがとうございます。回答を直しておこうと思います。
Zuishinさん、お返事ありがとうございます。
すみません、先程はppnさんへのお返事と前後してしまいました。
教えていたいだ通り、精度の問題でした！
doubleにキャストしてやると、それぞれ
2.00000004768372 2.00000001788139
で、それぞれ違う数字が入っていました。
スッキリしました。ありがとうございます！
Zuishinさんをベストアンサーにしようと思ったのですが・・
ppnさんに対するコメントなので、出来ないようでした。。
すみません。。
すみません。ややこしいことしました。
Unity だとどこで誤差が入るか私では解決できないので、回答できませんでした。
この回答のコメントで解決したのであれば、この回答をベストアンサーにしてください。
こんなに簡単に片付くとは思わなかったので、ppn さんには申し訳ないです。
スライダの値を整数に丸めて入れなおして、その値で比較しているので誤差うんぬんが効いてくるのかな？言うまでもないかもしれませんが、比較する際に改めて整数型に丸めて、その整数型で比較すればよさそうかな～と思いました。
>Zuishinさん
いえいえ、こちらこそ申し訳ないです。回答立て直してもらっても大丈夫です。
では自己解決を提案します。恥ずかしいので。
一日悩んでいたので、Zuishinさん有難うございました！
おかげでスッキリした気持ちで週末を迎えられます。
m(_ _)m
他の方も、いろいろとアドバイス頂きありがとうございました。
とても勉強になりました。
浮動小数点の比較の話は、最初は「？」になりがちですよね。
この誤差に関しては、Unityでは以下の関数を用意してくれています。浮動小数点の比較をしたい場合は常にこちらを利用するといいと思います。
[Mathf.Approximately]
https://docs.unity3d.com/jp/460/ScriptReference/Mathf.Approximately.html
edo_m18さん、情報ありがとうございます。ベクトルなどでも、自分で計算しなくていいように関数があったりと、そういった所で手厚いのがありがたいですね。
Mathf.Approximatelyは知りませんでした。
便利ですねー！
ありがとうございます。使わせていただきます。
0
GetType()すると、両方とも、System.Singleです。
もしかして、片方or両方がobjectでしょうか？
object型は参照型なのできちんとした型に戻してやらないと
object型の==演算子が用いられppnさんの言う通りの結果になります。
==演算子の代わりにEqualsメソッドを用いると結果が変わりませんか？
c#
1A.Equals(B);
投稿2018/11/02 13:15
編集2018/11/02 13:17
総合スコア15149
今回は、以下みたいに微妙にそれぞれ違う数字でした。
2.00000004768372
2.00000001788139
doubleにキャストする事でわかりました。
いろいろ勉強になりました。有難うございます。
object と Single の比較は == ではできないので、どちらかが object ならもう片方も object でしょうね。その場合は 0 も異なることになると思いますから、今回は違うと思います。
あなたの回答
tips
プレビュー
