質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.35%

Q&A

解決済

1回答

3817閲覧

Excel EXACT関数で計算した値と直接入力した数値が一致しない

stu

総合スコア14

0グッド

0クリップ

投稿2021/03/23 18:43

前提・実現したいこと

セルで計算した値とあらかじめ設定した値が一致することを確認したい。

発生している問題・エラーメッセージ

A1: 1.8551
A2: 1.8552
A3: =A1-A2 -> -0.0001
A4: -0.0001

A3とA4をEXACT関数で調べるとFALSEとなります。
=EXACT(A3,A4) -> FALSE

試したこと

LEN関数を確認したところ以下のような結果となりました。
=LEN(A3) -> 21
=LEN(A4) -> 7

A3,A4は文字列ではなく数値であることは確認しています。

なぜ文字の長さに違いがでてしまうのでしょうか。
計算した値とセルに入力した数値を一致させるためにはどうすればよいでしょうか。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

なぜ文字の長さに違いがでてしまうのでしょうか。

Excelの計算結果は-0.0001ではないから。
整数でない実数をパソコンで計算すると基本的には誤差が出ると思ってればよいと思います。

セルの書式設定を数値にして小数点以下の桁数を30桁にでもしてみれば
なぜ21桁になったのかがわかると思います。

引用テキスト計算した値とセルに入力した数値を一致させるためにはどうすればよいでしょうか。

誤差のある計算結果をを丸める

具体的には=ROUND(A1-A2,10)とでもする

A1-A2:誤差のある計算結果
ROUND:丸める関数

丸めてるのである程度の差は無視することになります

こんな説明でいいのかしら…

投稿2021/03/23 19:46

編集2021/03/23 19:56
xail2222

総合スコア1508

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.35%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問