質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
87.20%
C#

C#はマルチパラダイムプログラミング言語の1つで、命令形・宣言型・関数型・ジェネリック型・コンポーネント指向・オブジェクティブ指向のプログラミング開発すべてに対応しています。

Unity

Unityは、ユニティテクノロジーが開発したゲームエンジンです。 主にモバイルやブラウザ向けのゲーム製作に利用されていましたが、3Dの重力付きゲームが簡単に作成できることから需要が増え、現在はマルチプラットフォームに対応しています。 言語はC言語/C++で書かれていますが、C#、JavaScript、Booで書かれたコードにも対応しています。

解決済

floatからdoubleへキャストする際の誤差について

Gurz1019_MP
Gurz1019_MP

総合スコア196

C#

C#はマルチパラダイムプログラミング言語の1つで、命令形・宣言型・関数型・ジェネリック型・コンポーネント指向・オブジェクティブ指向のプログラミング開発すべてに対応しています。

Unity

Unityは、ユニティテクノロジーが開発したゲームエンジンです。 主にモバイルやブラウザ向けのゲーム製作に利用されていましたが、3Dの重力付きゲームが簡単に作成できることから需要が増え、現在はマルチプラットフォームに対応しています。 言語はC言語/C++で書かれていますが、C#、JavaScript、Booで書かれたコードにも対応しています。

2回答

-1評価

0クリップ

731閲覧

投稿2022/05/17 11:16

編集2022/05/22 17:27

C# 7.3において、float型の変数をdouble型にキャストした際、非常に小さな値の誤差が発生しています。

例:float : 29 → double : 29.0000009536743

なんとなく、誤差が発生しそうだな、という気はしますが、これの原因を正確に説明できなくて困っています。
より大きい値を扱える型へのキャストでは誤差は発生しないものと思っていたのですが…

よろしくお願いいたします。

追記
全く同じコードは掲載できないのでイメージでしかありませんが、以下のようなコードをUnity 2019.4.15fで実行した際に発生したものです。

C#

int A = 29; int AMax = 45; float ARatio = A / (float)AMax; Debug.Log(AMax * ARatio) // 29 Debug.Log(AMax * (double)ARatio) // 29.0000009536743

良い質問の評価を上げる

以下のような質問は評価を上げましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

  • プログラミングに関係のない質問
  • やってほしいことだけを記載した丸投げの質問
  • 問題・課題が含まれていない質問
  • 意図的に内容が抹消された質問
  • 過去に投稿した質問と同じ内容の質問
  • 広告と受け取られるような投稿

評価を下げると、トップページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

SurferOnWww

2022/05/17 11:32 編集

このコメントは回答欄に移しました。
SurferOnWww

2022/05/17 13:44

> 以下のようなコードをUnity 2019.4.15fで実行した Unity のタグをつけておいてください。 Unity のタグが付いていたら自分は最初から関わらなかったのでお互い無駄なやり取りをしないで済んだかも
Gurz1019_MP

2022/05/17 13:51

SurferOnWww様 つけておきました。すみません、この質問の内容がUnityと関連するとは思っていませんでした
SurferOnWww

2022/05/17 14:02

Unity 関連の質問者さんはアレなので関わらないようにしているのです。なので私はこれで撤退します。
Gurz1019_MP

2022/05/17 14:38

質問文をやってはならないレベルで変更しすぎてしまったようなので、書き方を変えました
ikadzuchi

2022/05/18 14:06

別にUnityに関係しないC#の仕様の話ですから、Unityタグを付けないのは何も間違っていませんよ。 むしろどちらかといえばつけるべきでないと思います。 まあアレな回答者を避けられるようですので付けた方がよいかもしれませんね。

まだ回答がついていません

会員登録して回答してみよう

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
87.20%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

C#

C#はマルチパラダイムプログラミング言語の1つで、命令形・宣言型・関数型・ジェネリック型・コンポーネント指向・オブジェクティブ指向のプログラミング開発すべてに対応しています。

Unity

Unityは、ユニティテクノロジーが開発したゲームエンジンです。 主にモバイルやブラウザ向けのゲーム製作に利用されていましたが、3Dの重力付きゲームが簡単に作成できることから需要が増え、現在はマルチプラットフォームに対応しています。 言語はC言語/C++で書かれていますが、C#、JavaScript、Booで書かれたコードにも対応しています。