質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.35%
C#

C#はマルチパラダイムプログラミング言語の1つで、命令形・宣言型・関数型・ジェネリック型・コンポーネント指向・オブジェクティブ指向のプログラミング開発すべてに対応しています。

Unity3D

Unity3Dは、ゲームや対話式の3Dアプリケーション、トレーニングシュミレーション、そして医学的・建築学的な技術を可視化する、商業用の開発プラットフォームです。

Q&A

解決済

1回答

1633閲覧

Unityのtransform.positionで取得する位置ベクトルの小数点の精度を上げたい

harbelth

総合スコア2

C#

C#はマルチパラダイムプログラミング言語の1つで、命令形・宣言型・関数型・ジェネリック型・コンポーネント指向・オブジェクティブ指向のプログラミング開発すべてに対応しています。

Unity3D

Unity3Dは、ゲームや対話式の3Dアプリケーション、トレーニングシュミレーション、そして医学的・建築学的な技術を可視化する、商業用の開発プラットフォームです。

0グッド

0クリップ

投稿2020/05/18 05:43

前提・実現したいこと

Unityのtransform.positionで取得する位置ベクトルの小数点の精度を上げたい

前フレームのポジションと現フレームでのpotisionの差を計算する処理があるのですが
取得する位置ベクトルの小数点の精度が1桁となっているため、正しい計算ができていない状態です
精度の高い位置ベクトルの取得方法があれば教えてください

該当のソースコード

C#

1GameObject Target; 2Vector3 delta_position; 3Vector3 prePosition; 4~~前フレームで実行~~ 5prePosition = Target.transform.position; 6~~現フレームで実行~~ 7delta_position = Target.transform.position - prePosition;

発生している問題・エラーメッセージ

上記ソースコードの
delta_position = Target.transform.position - prePosition;
この部分で右辺1項と2項どちらも小数点1位までの精度で位置ベクトルを取得してしまっており
計算結果が不正になっています

補足情報(FW/ツールのバージョンなど)

Unity 2018.2.11f

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

izmktr

2020/05/18 09:39

一応考えられるのは、floatは7桁程度の精度なので、10万付近の座標になっている、でしょうか? 現在の情報だとわからないので、各座標の具体的な値を教えて下さい (xxを想定していたが、yyになっている、のように) それと、どの情報を見て不正と言っているのかも追記して下さい
guest

回答1

0

ベストアンサー

自分が確認したところ以下のコードでは特に問題はありませんでした。

C#

1using System.Collections; 2using System.Collections.Generic; 3using UnityEngine; 4 5public class PlayerController : MonoBehaviour 6{ 7 [SerializeField]GameObject Target; 8 Vector3 prePos; 9 [SerializeField] Vector3 deltaPos; 10 11 // Start is called before the first frame update 12 void Start() 13 { 14 prePos = Target.transform.position; 15 } 16 17 // Update is called once per frame 18 void Update() 19 { 20 deltaPos = Target.transform.position - prePos; 21 prePos = Target.transform.position; 22 } 23} 24

Debug.Log()で出力したりToString()すると小数点代一位までに精度が落とされて出力されるようです。
Vector3-ToString - Unity スクリプトリファレンス
[SerializeField]やpublicをつけてinspectorで確認すれば制度が高く表示されるはずです。

投稿2020/05/18 09:52

Karakuri_Polta

総合スコア50

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

harbelth

2020/05/18 18:02

ToStringで小数点を指定して取得したところ、精度が高く表示されました。 Debug.Logだけを信じてはいけないのですね。勉強になりました。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.35%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問