質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.53%

  • Swift

    8575questions

    Swiftは、アップルのiOSおよびOS Xのためのプログラミング言語で、Objective-CやObjective-C++と共存することが意図されています

  • Xcode

    4828questions

    Xcodeはソフトウェア開発のための、Appleの統合開発環境です。Mac OSXに付随するかたちで配布されています。

  • Swift 2

    1337questions

    Swift 2は、Apple社が独自に開発を行っている言語「Swift」のアップグレード版です。iOSやOS X、さらにLinuxにも対応可能です。また、throws-catchベースのエラーハンドリングが追加されています。

  • Xcode 7

    616questions

    Xcode 7は、ソフトウェア開発のためのアップルの統合開発環境であるXcodeのバージョン。UIを作成するために用いるグラフィカルツールです。iOS9/OS X El Capitan/watchOS2に対応。Swift 2コンパイラーが搭載されています。

swiftでDouble型の切り捨てを誤差なく行いたい

解決済

回答 3

投稿 編集

  • 評価
  • クリップ 1
  • VIEW 1,725

_utah

score 14

前提・実現したいこと

swiftでDouble型の切り捨てがしたい。

現在、型変換と切り捨てを行う汎用的に使える関数を製作しております。
ソースコードに乗せているものは、Double型の数値を受け取り、小数点第二位で切り捨てを行った後、Double型で値を返しています。

発生している問題・エラーメッセージ

1.50...という値に小数点第二位で切り捨てをかけると、1.4という値が出てきてしまいます。
浮動小数点で誤差が出てしまうことを修正したいです。

該当のソースコード

    static func FloorDtoD(number : Double) -> Double{

        return Double(Int(number * Double(10.0))) / Double(10.0)
    }
    static func FloorDtoD(number : Double) -> Double{

        var ansser : Double = number
        ansser = ansser * Double(10.0)
        ansser = floor(ansser)
        return ansser / Double(10.0)
    }

試したこと

nsdecimalnumberを使用した方法も試しましたが、きちんと切り捨てられない(切り捨ててない)ことや、nsdecimalnumberをDouble型に変換し直さないといけないため、正しい値が得られませんでした。

nsdecimalnumberでStringを使用する方法は、まだ、試せていません。

補足情報(言語/FW/ツール等のバージョンなど)

swift2.3
Xcode7.3.1

追記になります

    static func FloorDtoD(number : Double) -> Double{

        let str : String = String(number)
        let ansser : NSDecimalNumber = NSDecimalNumber(string : str)

        let behavior = NSDecimalNumberHandler(
            roundingMode: .RoundDown,
            scale: 2,
            raiseOnExactness: false,
            raiseOnOverflow: false,
            raiseOnUnderflow: false,
            raiseOnDivideByZero: false)

        return Double(ansser.decimalNumberByRoundingAccordingToBehavior(behavior))
    }

こちらでも、1.5ではなく、1.4になってしまう場合があることを確認しました。
また、引数のnumberですが、こちらには1.5が入っていることを確認しました。

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

質問への追記・修正、ベストアンサー選択の依頼

  • ozwk

    2017/02/14 10:19

    「1.50...という値」具体的にいくつですか?

    キャンセル

  • _utah

    2017/02/14 10:25

    1.50000です。

    キャンセル

  • ozwk

    2017/02/14 10:31 編集

    こちらでnumber = 1.50000として計算しても1.4になりませんでした。なんらかの計算式でnumberが計算されるならそれを教えてください。

    キャンセル

  • _utah

    2017/02/14 10:53

    こちらでも、ベタ書きで確認しましたが、1.4になりませんでした。numberの計算式は、3000.0 * (1.0 - 0.9) * 0.01 / 2.0だったと思います。

    キャンセル

回答 3

+2

1.50000という値の確認方法に問題があるのではないでしょうか?
例えば、

let value = 1.4999999
print(value)
//=> 1.4999999
print(String(format: "%f", value))
//=> 1.500000
print(FloorDtoD(number: value))
//=> 1.4

とか

let value = 1.499999999999999
print(value)
//=> 1.5
print(FloorDtoD(number: value))
//=> 1.4

とか。

参考URL
FloatingPoint / API Reference
IEEE 754 / Wikipedia

投稿

編集

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

+2

3000.0 * (1.0 - 0.9) * 0.01 / 2.0は確かに手計算では1.5ですが、
DoubleやFloatは桁数が有限な2進数であることに注意しましょう。
10進数だと単純な小数も2進数だと循環小数になることが多いです。

例えば
0.01は2進数で0 . 0000 0010 1000 1111 0101 1100 0010 1000 1111 0101 1100 0010 1000 1111 ...
0.9は2進数で0 . 1110 0110 0110 0110 0110 0110 0110 0110 0110 0110 0110 0110 0110 0110...

なお、
2^-1 = 0.5
2^-2 = 0.25
2^-3 = 0.125
2^-4 = 0.0625
...
と、一桁ずれて末尾5と言うパターンなので、
10進数表記で5で終わらない小数は2進数だと循環小数になります。
終わっても循環小数になるものもあります。
なので10進表記の小数をFloat等に変換するとだいたい誤差が出ます。

投稿

編集

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2017/02/14 11:40

    2^-1 = 0.5 2^-2 = 0.25 ...
    DoubleやFloatは桁数が有限な2進数
    この説明で、なぜ、浮動小数点で誤差が出るのか納得がいきました。

    今まで、安易に小数点以下で計算した方がいいと思い、Int型で1で良いところをわざわざDouble型で1.0と書いていましたが、控えるようにしようと思います。

    キャンセル

check解決した方法

0

numberに送られている値を確認したところ、その値が1.5に丸め込みたい値ではなかったことを確認いたしました。
1.5に丸め込みたかった値は、きちんと丸め込まれており、表示する際に別の値(1.4に丸め込まれた値)を表示していました。

申し訳ありませんでした。

nsdecimalnumberでStringを使用する方法で切り捨てが動作しております。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

同じタグがついた質問を見る

  • Swift

    8575questions

    Swiftは、アップルのiOSおよびOS Xのためのプログラミング言語で、Objective-CやObjective-C++と共存することが意図されています

  • Xcode

    4828questions

    Xcodeはソフトウェア開発のための、Appleの統合開発環境です。Mac OSXに付随するかたちで配布されています。

  • Swift 2

    1337questions

    Swift 2は、Apple社が独自に開発を行っている言語「Swift」のアップグレード版です。iOSやOS X、さらにLinuxにも対応可能です。また、throws-catchベースのエラーハンドリングが追加されています。

  • Xcode 7

    616questions

    Xcode 7は、ソフトウェア開発のためのアップルの統合開発環境であるXcodeのバージョン。UIを作成するために用いるグラフィカルツールです。iOS9/OS X El Capitan/watchOS2に対応。Swift 2コンパイラーが搭載されています。