【C++】floatをintへ変換する際の挙動の違いについて

Question

floatをintへ変換する際の挙動の違いについて

floatをintに変換する下記の２つのメソッドの挙動がことなります。

const float UNIT = 0.1f;
int test1(float num)
{
	return (int)  (num / UNIT);
}

int test2(float num)
{
	float result = num / UNIT;
	return (int) (result);
}

test1とtest2のメソッドそれぞれに引数に「3.6f」を与えると、下記の結果になります。

test1　⇒　35
test2　⇒　36

なぜ、test1の結果が35になるのか

欲しい結果はtest2の36なのですが、なぜ、test1の結果が35になるのでしょうか？

よろしくお願いいたします。

Answer 1

こんにちは。

test1はdoubleを直接intへ変換してます。test2はdoubleを一旦floatへ変換後intへ変換してます。
num/UNITの結果が3.5999999...になる処理系の場合、double→float変換時に四捨五入されると、そのような挙動になりそうです。

なお、試しにgcc, clang, msvcでやってみましたが全て両者とも36になりました。
wandbox

Comments

[kohein]

ご回答ありがとうございます。
また、動作確認までして頂きありがとうございました。

処理系によっても結果が異なるんですね。
当方は、VisualStudioで動作確認しており、3.5999999...となっておりました。

[catsforepaw]

> なお、試しにgcc, clang, msvcでやってみましたが全て両者とも36になりました。

Visula Studioのバージョンやコンパイルオプションによって結果が異なる可能性がありますよ。

いつからかは忘れましたが、VC++では浮動小数点演算で既定でSSE(またはその上位版)の命令を使うようになったので、それ以前と比べると同じコードでも微妙に計算結果が変わることがあります。

試しに、コンパイルオプション「拡張命令セットを有効にする」を「拡張命令なし(/arch:IA32)」に変更してご質問のコードを実行してみたところ、35と36になりました。

[Chironian]

catsforepawさん。
なるほど。コンパイルオプションでしたか！　フォローありがとうございます。

[yohhoy]

/arch:IA32 で値が変わったという事は、x87 FPU命令とSSE2命令の演算精度差に起因している可能性が高いですね。x87は内部的に80bit浮動小数点数演算を行いますが、SSE2の場合64bit doubleは64bitで演算します。（64bitビルドだとSSE2命令は必ず利用可能なため既定で/arch:SSE2が付与されるはず）
https://docs.microsoft.com/ja-jp/cpp/build/reference/arch-x86

[asm]

std::fesetroundで操作できるのは面白いですね
https://wandbox.org/permlink/0lKWyCi29m2BtXvV

Answer 2

floatどおしの演算でもその結果はdoubleとなります
test1では演算結果のdoubleをキャストしてますが、
test2では、floatをキャストしてます

Comments

[kohein]

早速のご回答ありがとうございます。

doubleの計算結果キャストすると、35になるということでしょうか？

下記のソースコードを試したのですが、36となりました。
double tmp_d = 3.6f / 0.1f;
int tmp = (int) tmp_d;

よろしくお願いいたします。

[y_waiwai]

https://www.jpcert.or.jp/sc-rules/c-flp00-c.html

早い話が、計算結果はdoubleといっても、内部的にはdoubleと違う精度で保持していて、それを元に計算し、キャストしているという話。
計算結果をdoubleでキャストしても結果が違うということですね。

その計算をどんなマシンでどんな環境でどんなコンパイラでやってるかはわからんけど、計算結果が違うというのはこういう理由があります

[y_waiwai]

また、「浮動小数点　誤差」　でぐぐると、いろいろ説明が出てくるので読んでみてください

[kohein]

ご説明ありがとうございます。

float UNIT = 0.1f;
float num = 3.6f;
double tmp_d = num / UNIT;

としたところ、35.99999の結果になりました。
キャストの際に、この結果の少数点が切り捨てされているという事ですね。

新たな疑問がわきましたが、それは新たに質問を立てさせて頂こうと思います。
（計算に使う数値がリテラルか変数かで結果が異なる）

ありがとうございました。

Answer 3

投稿間違いです。削除してください

Answer 4

除算のときに丸め誤差で35.999999…になってるのでしょう。

Comments

[kohein]

ご回答ありがとうございます。

doubleに結果を入れたところ、おっしゃる通り
35.999999…となっておりました。