質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.35%
C#

C#はマルチパラダイムプログラミング言語の1つで、命令形・宣言型・関数型・ジェネリック型・コンポーネント指向・オブジェクティブ指向のプログラミング開発すべてに対応しています。

Visual Studio

Microsoft Visual StudioはMicrosoftによる統合開発環境(IDE)です。多種多様なプログラミング言語に対応しています。

Q&A

解決済

2回答

1846閲覧

電卓アプリの作成でのバグ 0.3*6=1.79になってしまう

Gunjirk

総合スコア23

C#

C#はマルチパラダイムプログラミング言語の1つで、命令形・宣言型・関数型・ジェネリック型・コンポーネント指向・オブジェクティブ指向のプログラミング開発すべてに対応しています。

Visual Studio

Microsoft Visual StudioはMicrosoftによる統合開発環境(IDE)です。多種多様なプログラミング言語に対応しています。

1グッド

1クリップ

投稿2020/03/12 07:29

編集2020/03/12 08:09

環境

Microsoft Visual Studio Community 2019
Version 16.4.6
VisualStudio.16.Release/16.4.6+29905.134
Microsoft .NET Framework
Version 4.8.03761

C# ツール 3.4.1-beta4-20120-08+fa984e0202af4480c0273032da49cbbdeb32c582
IDE で使用する C# コンポーネント。プロジェクトの種類や設定に応じて、異なるバージョンのコンパイラを使用できます。

以下のソースコードで実行すると、
0.3*6=1.79となってしまいます。

03.5*5=3.5などほかは正しく表示されます。

質問経験が浅いため、乱雑な質問かとは思いますが。ご確認よろしくお願いいたします。
不明点あれば、何でも答えます。

using System;
using System.Collections.Generic;
using System.ComponentModel;
using System.Data;
using System.Drawing;
using System.Linq;
using System.Text;
using System.Threading.Tasks;
using System.Windows.Forms;

namespace WindowsFormsApp1
{
public partial class Form1 : Form
{

public Form1() { InitializeComponent(); } bool isFirst = true; double val1 = 0; private void Form1_Load(object sender, EventArgs e) { } private void btnNumber_Click(object sender, EventArgs e) { if (isFirst) { txtDisplay.Text = ""; isFirst = false; } String text = txtDisplay.Text + ((Button)sender).Text; //文字列 -> 数値 double d = Convert.ToDouble(text); //数値 -> 文字列(先頭の0が消える) String text2 = d.ToString(); txtDisplay.Text = text2; } enum sign { blank, ADD, SUB, MUL, DIV }; sign exec = sign.blank; //クリア private void button_clear_Click(object sender, EventArgs e) { exec = sign.blank; txtDisplay.Text = "0"; val1 = 0; isFirst = true; } //小数点 private void button_dot_Click(object sender, EventArgs e) { //小数点の重複チェック if(txtDisplay.Text.IndexOf(".") >= 1) { //すでに小数点がある return; } txtDisplay.Text = txtDisplay.Text + "."; } //足し算。 private void button_tasu_Click(object sender, EventArgs e) { if (!isFirst) calc(); exec = sign.ADD; } //引き算。 private void button_hiku_Click(object sender, EventArgs e) { if (!isFirst) calc(); exec = sign.SUB; } //掛け算。 private void button_kakuru_Click(object sender, EventArgs e) { if (!isFirst) calc(); exec = sign.MUL; } //割り算。 private void button_waru_Click(object sender, EventArgs e) { if (!isFirst) calc(); exec = sign.DIV; } //イコール。 private void button_wa_Click(object sender, EventArgs e) { calc(); } private void calc() { double val2 = Convert.ToDouble(txtDisplay.Text); switch (exec) { case sign.ADD: val1 += val2; break; case sign.SUB: val1 -= val2; break; case sign.MUL: val1 *= val2; break; case sign.DIV: val1 /= val2; break; default: val1 = val2; break; } double result = Math.Truncate(val1 * 100.0) / 100.0; txtDisplay.Text = result.ToString(); isFirst = true; } }

}

s.k👍を押しています

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

退会済みユーザー

退会済みユーザー

2020/03/12 07:49

コードは ``` と ``` で囲ってください。インデントされて見やすくなるので。インデントされてないコードは質問者さん自身も読む気がしないのでは? 2 進数では表現できない浮動小数点の値があって丸めの誤差というのが出るのですが、そういうプリミティブな話とは違うのですか?
Gunjirk

2020/03/12 08:10

ありがとうございます! インデントの仕方を知らなかったので、助かりました! 先輩がdoubleで実践したら、正常だったので困っておりました。
Wind

2020/03/12 08:21

・doubleをdecimalにする ・bool isFirst = true;をfalseにする ・kakuruをkakeruにする
guest

回答2

0

ベストアンサー

たぶん浮動小数点の演算で誤差が出る、って事をわかってないだけな気が。
適当にWikipediaなりQiitaの記事なり情報処理の教科書なりその他検索すればいっぱいヒットする話だと思うので、読んで勉強されてみては。

投稿2020/03/12 07:53

gentaro

総合スコア8947

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

0

100倍して端数の切り捨てしてるからじゃないですか?

投稿2020/03/12 07:32

yambejp

総合スコア116724

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.35%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問