vbでのDouble計算でのCDec記述方法はどれ。

Question

初歩的な質問で申し訳けありません。
Double変数での計算では、10進数で処理しないと正確な結果は出ませんが、
下記コードにで正しい記述方法はどれでしょうか。

dim aa as Double
dim bb as Double
'入力有効値整数8桁、少数点以下3桁。 
dim Result as Decimal
'(掛け算)
Result = CDec(CDec(aa) * CDec(BB))
Result = CDec(aa) * CDec(BB)
Result = CDec(aa * BB )

Comments

[退会済みユーザー]

VB、VBA、VB.NETは別物なので、正しいタグを指定してください。
一般的には、Excelマクロ等で使用されるのがVBA、VisualStudio.NETの場合はVB.NETとなり、VBはVisualStudio.NETになる前のVisualBasicを指します。

Answer 1

提示されている例だと、

Result = CDec(aa) * CDec(BB)

で良いかと思います。ただ、aa, bbもDecimalにすれば、そもそもCDecの必要性はありませんので、可能な限り同じ型で計算した方がいいです。不必要な型変換は、最終的な精度に影響を与える場合もあります。

単純な有効桁数ならDecimalの方が上なので、精度が重要であれば、本当にDoubleを使用する必要があるかどうかはよく考える必要があります。（浮動小数点型の誤差の問題もあります）
まず扱う数値の必要な桁数を考慮し、必要があればDecimal.Round,Math.Roundメソッド等を使用して丸め処理を行ってください。

DOBON.NET - 小数（浮動小数点数型）の計算が思った結果にならない理由と解決法

Answer 2

Double変数での計算では、10進数で処理しないと正確な結果は出ませんが

この前提自体がおかしい気がします。「10進数で処理」したところで正確な値を格納できないことも多いです（0.1すら、正確な値をDoubleに格納することはできません）。

逆に、「最終的にDoubleに格納する」ことが前提なら、必要な計算精度によってはDoubleで通しても構いません。

Comments

[maisumakun]

> 下記コードにで正しい記述方法はどれでしょうか。

正しいか正しくないかは状況依存（必要な精度、最終形として何が必要かなど）です。「dim Result as Double自体が間違い」という場合もありえます。

[ad.sys.soleil]

dim Result as Decimalへ変更しました。

[maisumakun]

えっと、もとの値はどのようなもので、どのような計算を行うのでしょうか。

特に割り算の場合、10進数でも割り切れない場合があるので、「Decimalだから端数処理を考えなくていい」とはなりません。

[ad.sys.soleil]

割り算削除しました。入力有効値整数8桁、少数点以下3桁。

[maisumakun]

「入力がDouble」というのは所与の条件でしょうか？

[ad.sys.soleil]

はい。そうです。