質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
C#

C#はマルチパラダイムプログラミング言語の1つで、命令形・宣言型・関数型・ジェネリック型・コンポーネント指向・オブジェクティブ指向のプログラミング開発すべてに対応しています。

Unity

Unityは、Unity Technologiesが開発・販売している、IDEを内蔵するゲームエンジンです。主にC#を用いたプログラミングでコンテンツの開発が可能です。

Q&A

解決済

1回答

1082閲覧

unity inspector上の値と、代入した値が異なる

ShunichiKondou

総合スコア8

C#

C#はマルチパラダイムプログラミング言語の1つで、命令形・宣言型・関数型・ジェネリック型・コンポーネント指向・オブジェクティブ指向のプログラミング開発すべてに対応しています。

Unity

Unityは、Unity Technologiesが開発・販売している、IDEを内蔵するゲームエンジンです。主にC#を用いたプログラミングでコンテンツの開発が可能です。

0グッド

0クリップ

投稿2018/01/04 21:41

###前提
細かい数値のfloatの値を、Mathf.Floorを使用して小数点第2位にし、オブジェクトのlocalPosition.x, localPosition.yに入れたんですが、オブジェクトのinspector上のpositionを見ると、yの値だけ小数点第2位ではなく、それよりも細かい数値になっています。
Debug.Logを使いxFixedPos、yFixedPosの値を見ましたが、どちらも小数点第2位のあたいになっています。
しかし、inspector上の値を見ると、yの値だけ小数点第2位ではなく、それよりも細かい値です。

こんな感じ値になります。
Debug.Log(gameObject.transform.localPosition.x) = 2.11
Debug.Log(gameObject.transform.localPosition.y) = 0.62
inspector上のgameObject.transform.localPosition.x = 2.11
inspector上のgameObject.transform.localPosition.y = 0.6200002

##解決したいこと
Debug.Logで調べる限り、xもyも小数点第2位の値になっているにも関わらず、なぜinspector上のxの値は成功していて、yの値は失敗しているのか。

##コード
void A()
{
Vector3 fixedPos = new Vector3 ();
float xFixedPos = B (gameObject.transform.localPosition.x);
float yFixedPos = B (gameObject.transform.localPosition.y);
fixedPos.x = xFixedPos;
fixedPos.y = yFixedPos;
fixedPos.z = 0f;

gameObject.transform.localPosition = fixedPos;

}

float B(float num) { float fixNum = new float (); fixNum = num * 100f; fixNum = Mathf.Floor (fixNum); fixNum = returnNum / 100f; return fixNum; }

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

B が変です。
未定義の returnNum で戻り値を上書きしています。

また次のように float から double へのキャストで 10 進数の値が変わります。
インスペクタの実装次第では違う値が表示されるかもしれません。
https://ideone.com/OOJnjq

投稿2018/01/05 00:14

Zuishin

総合スコア28660

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問