小数点の計算で期待した結果が返ってこない

Question

小数点の計算で期待値とちがう結果になってしまいどのように修正すればいいか
困っています

今のコード

from math import ceil

ceil(0.07 * 100 ) / 100
0.08

-> 期待値は0.07なのですが0.08 となってしまします。

小数点第2位まで表示して、それ以下は切り上げを行いたいのですが
どのように修正すればいいですか

float(Decimal(0.079).quantize(Decimal('.00')))

とすると良さそうなのですが　合っているか確認する方法はありますか

期待値は

def test_95_per_5_Mbps_007():
    assert get_kakin(0.07) == 0.07

def test_95_per_5_Mbps_0070():
    assert get_kakin(0.070) == 0.07

def test_95_per_5_Mbps_0071():
    assert get_kakin(0.071) == 0.08

def test_95_per_5_Mbps_0072():
    assert get_kakin(0.072) == 0.08

def test_95_per_5_Mbps_0075():
    assert get_kakin(0.075) == 0.08

def test_95_per_5_Mbps_0076():
    assert get_kakin(0.076) == 0.08

def test_95_per_5_Mbps_0079():
    assert get_kakin(0.079) == 0.08

Comments

[cateye]

実行してみればいいのでは？

[Kentaro0919]

もちろん実行はしています　バグを修正したいので　どのように検証　テストをすればいいかも含めて知りたいのです。
>>> float(Decimal(0.071).quantize(Decimal('.00')))
0.07

>>> float(Decimal(0.079).quantize(Decimal('.00')))
0.08

[quickquip]

であれば最後の一文をそのように直すべきでは。この欄で返答するのではなくて質問に反映させるべきです。

[can110]

「小数点第2位まで表示して、それ以下は切り上げを行いたい」というのがよく分かりません。
いくつか具体的な数値の変換例をあげてもらえないでしょうか？
（たとえば0.07001, 0.0701, 0.0704, 0.0705の結果など）

[cateye]

切り上げというのは。少数以下が０でない場合、整数に１加算して小数部を破棄するという事だと思いますが？・・・違いますか？
もしそうなら、最初の答えで合っているのでは？

Answer 1

変換仕様がよく分かりませんが、私なら以下のように組みます。
意図(仕様)としては

• 小数点以下第４位を四捨五入することにより、それ以下の桁は無視する→0.070001などは0.07になるように
• その結果に対して切り上げを行う。

としています。
また、テストにおいても小数点以下第３位以降も値を含むことを考慮したケースも用意するようにします。

バグを修正したいので　どのように検証　テストをすればいいかも含めて知りたいのです。

についてですが、まずは変換仕様とそれとセットになるテストケースを明確に決定すべきかと思います。
コーディングはそのあとです。

def func(val):
    ret = Decimal(str(val))
    ret = ret.quantize(Decimal('.000'), ROUND_HALF_UP) # 小数第４位を四捨五入
    ret = ret.quantize(Decimal('.00'), ROUND_UP)       # 小数第３位を切り上げ
    return ret

for val in [0.07, 0.07001, 0.0701, 0.0704, 0.0705, 0.071]:
    ret = func(val)
    print('{} -> {}'.format(val, func(val)))

"""
0.07 -> 0.07
0.07001 -> 0.07
0.0701 -> 0.07
0.0704 -> 0.07
0.0705 -> 0.08
0.071 -> 0.08
"""

Answer 2

math.ceil(int(x * 1000) / 10) / 100 では如何でしょう？

ｘ．ｐｙ

import math

def f(x):
        return math.ceil(int(x * 1000) / 10) / 100

TEST_CASES = (
    (0.0700,  0.07),
    (0.07001, 0.07),
    (0.0709,  0.07),

    (0.071,   0.08),
    (0.075,   0.08),
    (0.080,   0.08),
    (0.08001, 0.08),
    (0.0809,  0.08),

    (0.081,   0.09)
)

for x, y in TEST_CASES:
    print(f(x) == y, "\t", x, "->", f(x))

実行例

Answer 3

計算機の中の浮動小数点表現は2進数ですから0.07にぴったりとあう内部表現はありません。
3桁増やした固定小数点演算を行い、表示時に最下位を切り上げた後、3桁減らせばいいのでは?

Answer 4

ご回答いただいた方ありがとうございました。
どん方法もテストは通りませんでしたが
float(Decimal(str(value) ).quantize(Decimal('.00'), rounding=ROUND_UP))

これで上記のテストは通りました、テストを増やすしか確認する方法はないようでした

Comments

[can110]

それだと「ceil(0.07 * 100 ) / 100」したと同じ結果、たとえば「0.070000001」が「0.08」になっちゃうんですが、それでもよいのでしょうか？

[Kentaro0919]

ceil(0.07 * 100 ) / 100 は　0.07 0.070 の場合失敗しましたが、上記に変えたらテストは通りました　不安は残ります

[can110]

当方環境では
value = 0.07000000001
ret = float(Decimal(str(value) ).quantize(Decimal('.00'), rounding=ROUND_UP))
print(ret)
の結果は「0.08」になっちゃいますが、それでもよいのですか？
また、何について不安があるのでしょうか？

[cateye]

>>> ceil(floor(0.07 * 100)) / 100
0.07
>>> b=ceil(floor(0.07 * 100)) / 100
>>> float(Decimal(str(b)).quantize(Decimal('.00'), rounding=ROUND_UP))
0.07
>>>
合ってるかどうか分からんが・・・なんか。余計なことをやってるような＾＾；

[Kentaro0919]

cateyeさんありがとうございます

>>> ceil(floor(0.07 * 100)) / 100
0.070のパターンはうまくいきますが　切り上げがうまくいかないようです

出てくる元のデータは小数点第３位までのデータで２桁に繰り上げるのが正解でした。
0.070 -> 0.07
0.071 -> 0.08

[cateye]

>>> ceil(floor(0.071 * 1000)/10)/100
0.08
>>> ceil(floor(0.070 * 1000)/10)/100
0.07
>>> ceil(floor(0.079 * 1000)/10)/100
0.08
>>> ceil(floor(0.070 * 1000)/10)/100
0.07
>>> ceil(floor(0.06 * 1000)/10)/100
0.06
>>> ceil(floor(0.061 * 1000)/10)/100
0.07
>>> ceil(floor(0.0701 * 1000)/10)/100
0.07
>>> ceil(floor(0.0709 * 1000)/10)/100
0.07
>>> ceil(floor(0.071 * 1000)/10)/100
0.08
>>> ceil(floor(0.070 * 1000)/10)/100
0.07
>>>

Answer 5

>>> a= 0.07
>>> print(a)
0.07
>>> b= a * 100.0
>>> print(b)
7.000000000000001
>>> round(b)
7
>>> b / 100
0.07
>>> 

Comments

[cateye]

ceil:小数点以下を切り上げ
round:四捨五入
floor小数点以下を切り捨て
今回は、ceilを使っているので0.000000000000001が切り上げられる。
（少数を正確に浮動小数点数にすることは、普通出来ない）
環境はPython 3.7.3

Answer 6

・0.07 * 100 の結果
・ceil(0.07 * 100 )の結果

がどうなるかをそれぞれ調べてみては