極端に小さい値の四捨五入

Question

C#で以下のような極端に小さい値での四捨五入を行いたいです

例、
4.20365978E-42　→　4.204E-42
2.30268512E-43　→　2.303E-43

Math.Roundにて丸めようにも小数点15以下は利用ができず
先にE以下部分を消して処理しようにもオーバーフローしてしまいます

4.20365978E-42を文字列化して
特定の場所の数値から自分で切り上げ切り捨て処理をして
数値に戻すというのも考えましたが、流れ的にイマイチな気がして。。。

なにかスマートな方法はありませんでしょうか

Comments

[Zuishin]

10 の 43 乗をかけてオーバーフローしますか？

[chinpanpan]

38乗までは正しくE-XXの部分が減っていきます
39乗以上になるとinfinity表示になってしまいます

一体何がなんだか…

[BeatStar]

型はなんでしょうか? double ? float?

[退会済みユーザー]

どういう書き方でオーバーフローになったのかは気になりますね。
もし元のソース覚えてたら質問に追記しておいてください。

Answer 1

ベタなやり方しか思いつきませんでしたが。

    var d = 4.20365978E-42;
    var d_log10 = Math.Floor(Math.Log10(d)); //E-42の-42を計算
    var pow_idx = Math.Pow(10, -d_log10); //E-42を取り除く為の乗数

    d *= pow_idx;
    d = Math.Round(d, 3, MidpointRounding.AwayFromZero);
    d /= pow_idx;

    Console.WriteLine(d); //4.204E-42

---

（2021/11/18 19:42 追記）
d<=0、d_log10==0の時に死ぬので、少し修正しました。

    if( d!=0 && !double.IsNaN(d) && !double.IsInfinity(d) )
    {
        var d_log10 = Math.Floor(Math.Log10(Math.Abs(d)));
        if(d_log10 != 0 )
        {
            var pow_idx = Math.Pow(10, -d_log10);
            d *= pow_idx;
            d = Math.Round(d, 3, MidpointRounding.AwayFromZero);
            d /= pow_idx;
        }
        else
        {
            d = Math.Round(d, 3, MidpointRounding.AwayFromZero);
        }
    }

Comments

[chinpanpan]

うおおおう、完璧です
スマートな内容で理想の動きそのままでした
本当にありがとうございます

Answer 2

表示だけの話であれば以下のようにすると、

double d1 = 4.20365978E-42;
double d2 = 2.30268512E-43;

Console.WriteLine($"{d1} ⇒ {d1:E3}");
Console.WriteLine($"{d2} ⇒ {d2:E3}");

結果は以下のようになります。

4.20365978E-42 ⇒ 4.204E-042
2.30268512E-43 ⇒ 2.303E-043

これとはやりたいことは違いますか？

Comments

[chinpanpan]

いえ、表示だけでなく
実際のデータを四捨五入して使いたいです

[fana]

そしたら，それをまた数値に戻すという…
double.Parse( d1.ToString( "E3" ) );

[退会済みユーザー]

> いえ、表示だけでなく実際のデータを四捨五入して使いたいです

それに何の意味があるのですかね？ 不動小数点は本質的に近似値しか表せないと言うことを理解してますか？ 理解してたら「実際のデータを四捨五入して使いたい」という話は出て来ないと思いますけど。