🎄teratailクリスマスプレゼントキャンペーン2024🎄』開催中!

\teratail特別グッズやAmazonギフトカード最大2,000円分が当たる!/

詳細はこちら
Visual Studio

Microsoft Visual StudioはMicrosoftによる統合開発環境(IDE)です。多種多様なプログラミング言語に対応しています。

Q&A

解決済

3回答

1242閲覧

double型の数値を、小数第3位以降を切り上げしたい

Shoko9513

総合スコア1

Visual Studio

Microsoft Visual StudioはMicrosoftによる統合開発環境(IDE)です。多種多様なプログラミング言語に対応しています。

0グッド

0クリップ

投稿2021/02/21 12:59

前提・実現したいこと

C# Visual StudioのWindowsフォームで、Timerを使って小数第2位まで計測できるストップウォッチを作りたいです。

発生している問題・エラーメッセージ

Label1にIntervalが10のTimerの時間を表示させていますが、6~7秒あたりから「6.9999999999997」のような表記になってしまいます。

該当のソースコード

C#

1double time; 2private void timer1_Tick(object sender, EventArgs e) 3 { 4 time += 0.01; 5 Label1.Text = time.ToString(); 6 }

質問

①TimerのIntervalが10で、0.01ずつ値を増やしているのに、なぜこのようなことが起こってしまうのでしょうか?
②どうすれば小数第3位以降を切り上げできますか?

C#初心者で手探りで開発をしています。できるだけ簡単に説明していただけるとありがたいです。よろしくお願いいたします。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答3

0

①TimerのIntervalが10で、0.01ずつ値を増やしているのに、なぜこのようなことが起こってしまうのでしょうか?

すでに otn さんからご回答がありますが、0.01 は 2進数で正確に表現できません。
演算を行えば誤差が蓄積します。

②どうすれば小数第3位以降を切り上げできますか?

小数第3位を四捨五入する場合

C#

1time += 0.01; 2label1.Text = time.ToString("F2");

小数第3位を切り上げする場合

C#

1time += 0.01; 2label1.Text = (Math.Ceiling(time*100)/100).ToString();

投稿2021/02/21 13:30

lehshell

総合スコア1156

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

lehshell

2021/02/21 13:37

time += 1; にすれば誤差が蓄積しませんね。失礼しました。
Shoko9513

2021/02/21 13:47

ToString("F〇")で四捨五入できるのを初めて知りました!ありがとうございます!
guest

0

ベストアンサー

0.01は2進数では無限小数なので、有限桁では正確には表現できません。
演算を繰り返すと有限桁打ち切り誤差が累積します。

C#

1 { 2 time += 1; 3 Label1.Text = (time/100).ToString(); 4 }

にしましょう。これだと誤差の出る計算は1回だけです。

投稿2021/02/21 13:08

otn

総合スコア85886

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

Shoko9513

2021/02/21 13:25

できました!ありがとうございました!
guest

0

time += 1; にすれば誤差が蓄積しませんね。失礼しました。

投稿2021/02/21 13:36

lehshell

総合スコア1156

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

Zuishin

2021/02/21 13:42 編集

Timer イベントのたびに独自に時刻を加算しているので、それでも表示に現れない誤差が蓄積すると思います。スタート時刻との減算を表示したいところです。
Shoko9513

2021/02/21 13:50

Timerだと、かなり誤差が出てしまいました・・・。その方法も試してみたいと思います。ありがとうございます!
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.36%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問