Q&A
ご回答いただきありがとうございます。指数表記の読み方自体が間違っていました。マイナス〇乗を意味しているのですね。
Pythonでの小数点の大小関係がどうなっているのかわかりません。
浮動小数点の関係で小数点の計算がおかしくなるということ自体は若干知っている程度です。
指数表記されている小数点の比較をすると、結果がまったくよくわからないです。
Python3
13.1305867285372715e-11 > 5.744666587775521e-13 23.1305867285372715e-11 < 5.744666587775521e-13
上記をコンソール上で打つと、前者がTrueで後者がFalseが返ってきます。
かと思えば、一の位の値を変えてみてもおかしな結果が返ってきます。
Python3
13.1305867285372715e-11 > 2.744666587775521e-13 23.1305867285372715e-11 < 2.744666587775521e-13
上記のように値を変えると、前者がTrueで後者がFalseとなりました。結果としてはおかしくないのかもしれませんが、挙動としては理解できないです。
なぜこのような結果になっているのでしょうか？
また、このような値を比較したい場合にはどのような処理が必要なのでしょうか？
回答3件
0
数値の指数表記についての知識が不十分なために混乱していらっしゃるように思われます。
まずは、[ウィキペディアの指数表記のページ]を読んでみてください。(https://ja.wikipedia.org/wiki/%E6%8C%87%E6%95%B0%E8%A1%A8%E8%A8%98)
そうすると、
A) 3.1305867285372715e-11が、3.1305867285372715/100000000000のことで
B) 5.744666587775521e-13が、5.744666587775521/10000000000000のことであることが判るでしょう。
Aは3.1305867285372715の１千億分の１、Bは5.744666587775521の１０兆分の１です。
Aのほうが、Bよりも５０倍ほど大きいという事ですから、A>BがTrue, A<BがFalseとなります。
5.744666587775521の部分を多少(2.744666587775521へと半分程度に)変化させても、約５０倍の違いを逆転するほどにはなりません。
投稿2018/10/17 05:27
総合スコア6915
0
Pythonでの小数点の大小関係がどうなっているのかわかりません。
いえ、この結果はどれも正しいです。
「1.5e-13」というような数字は、「1.5×10の-13乗」という意味になります。なので、1e-11は1e-13の100倍大きい数です。
投稿2018/10/17 04:44
総合スコア145183
0
ベストアンサー
指数表記の意味がわからないのでしょうか。
xenはx10^nの意味です。3.13e-11は3.1310^-11を意味します。
わかりやすく小数点以下20桁まで表示するとこんな感じですね。
python
1>>> a,b = 3.1305867285372715e-11, 5.744666587775521e-13 2>>> print("{0:.20f}\n{1:.20f}\n".format(a, b)) 30.00000000003130586729 40.00000000000057446666 5
投稿2018/10/17 04:44
編集2018/10/17 04:47
総合スコア30933
ご回答いただきありがとうございます。このような値の大小を比較しようと思うと、単純に不等号を使って比較するのは難しいということでしょうか？
すみません、普通に比較すればよいだけですね。
そういうことですね。単に見た目の問題です
あなたの回答
tips
プレビュー
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。
2018/10/17 06:07