Q&A
本当に10倍の値になってしまったのですか？
前提・実現したいこと
Windows10+Visual C++ 2017の環境にて
CSVファイルから取得した数値データを処理するプログラムを作成しています。
CSVからの文字列取得にはCStdioFileのResdStringを使用してCString型の変数に格納しています。
CSVには下記のように小数点以下8桁の数値が入力されています。(負の数有り)
"0.10000000", ”-0.30000000”, "-0.59564810"・・・
発生している問題
ここで下記のようにwcstodを使用して文字列からdouble型の変数に変換して代入したところ誤差が発生しました。
CString strMoji; double dSuuchi; dSuuchi = wcstod( strMoji, NULL);
結果、strMoji = -0.30000000がdSuuchi = -0.29999999999999999になってしまいました。
誤差の出ないように型変換するにはどのような方法がありますでしょうか。
追記
この後の処理でdSuuchiを計算式にて再計算した値を再びCSVに書き込む処理となっています。
変換された時点のdSuuchiの値をデバッガで確認した結果上記となっています。
失礼しました。誤記です。
結果はどのように確かめていますか?
追記の通り、変換されたdSuuchiの値をデバッガにて参照しています。
回答3件
0
ベストアンサー
桁数が変わっていますね。
(最初に質問に書かれていた桁数の)-0.29999999は-0.30000000と異なりますが、
-0.29999999999999999と-0.30000000は(doubleとしては)同一の値です。
同一なので、そのdouble値を表示した時に-0.29999999999999999と-0.3のどちらで表示されるかは環境に依存します。
気の利いた環境ならデフォルトで-0.29999999999999999ではなく-0.3と表示してくれることもあるでしょう。
小数点以下8桁しか無いと分かっているなら四捨五入すれば明示的に-0.30000000と表示させることができます。
投稿2020/05/26 05:18
総合スコア3047
0
問題は、double型への代入ではなく、あとの処理の方ではないかと思います。
doubleは2進法で値を保持するので、「10進8桁で丸める」という前提であれば正しく表示できる値は保持できますが、その厳密な値は異なってきます。演算の結果、その差が10進8桁で見える範囲内に影響してくる、ということも考えられます。
投稿2020/05/26 01:20
総合スコア145183
0
誤差の出ないように型変換するにはどのような方法がありますでしょうか。
不可能です
double型というのは、２進数で小数点以下も含め表現する実数型です
あなたが使っている１０進数に（から）変換するときに、近似値となってしまいます。
＃１０進数の０．１はdoubleでは表現できません
これはどうしようもないので、どうしてもその誤差なるものを避ける必要があるなら、１０進演算用のクラスを作るか探してくるかしましょう
投稿2020/05/25 10:30
総合スコア87749
ご説明ありがとうございます。
やはり近似値となるのは避けられないんですね。
自作クラス作成に挑戦してみます。
いいえ。doubleの精度は10進15桁ほどありますので0.30000000は正確に復元できてしかるべきです。
あなたの回答
tips
プレビュー
