浮動小数点

浮動小数点は、コンピュータが数値を扱う際に実数を表現する方法のひとつです。 数値を、それぞれの桁の値が並んでいる仮数部と、小数点の場所を示す指数部で表します。

RSS
  • 解決済

    回答
    5

    (C++) double型変数が0.0か否かの判定

    • 1評価
    • 1クリップ
    • 613PV
    sin_250 sin_250 3週間前 コメント
  • 解決済

    回答
    3

    整数を浮動小数点型の変数に代入する場合に、数値リテラルは型に合わせたほうがよいでしょうか

    • 0評価
    • 1クリップ
    • 351PV
    tiitoi tiitoi 4ヶ月前 コメント
  • 解決済

    回答
    4

    実数の計算誤差について

    • 0評価
    • 0クリップ
    • 370PV
    wwbQzhMkhhgEmhU wwbQzhMkhhgEmhU 4ヶ月前 ベストアンサー
  • 解決済

    回答
    2

    IEEE754な浮動小数点の任意区間でのカウントと列挙

    • 3評価
    • 1クリップ
    • 2121PV
    yumetodo yumetodo 8ヶ月前 回答
  • 解決済

    回答
    1

    Swiftで10から0.1ずつカウントして0で止まるカウントアプリを作りたい

    • 0評価
    • 0クリップ
    • 365PV
    YuukiIbata YuukiIbata 10ヶ月前 ベストアンサー
  • 解決済

    回答
    6

    浮動小数点数型の誤差?について

    • 0評価
    • 1クリップ
    • 1999PV
    KIYZ KIYZ 12ヶ月前 ベストアンサー
  • 解決済

    回答
    2

    MySQLの小数点計算の切り捨て(四捨五入)される桁数

    • 0評価
    • 0クリップ
    • 1476PV
    ikadzuchi ikadzuchi 1年前 ベストアンサー
  • 解決済

    回答
    1

    Java ニューラルネットワークで浮動小数点型の誤差はどこまで影響があるのか

    • 0評価
    • 1クリップ
    • 386PV
    tokuhausu tokuhausu 1年前 コメント
  • 解決済

    回答
    3

    JavaScriptの+0と-0の違い

    • 0評価
    • 0クリップ
    • 1144PV
    think49 think49 3年前 コメント
  • 1
terascout - エンジニア向けのスカウト型転職アプリ

タグ情報

  • あなたの順位

    -

  • タグ登録者数

    12

  • 総質問数

    9

  • 今週の質問数

    0

関連するタグ

浮動小数点タグのよく見られている質問

思考するエンジニアのためのQ&Aサイト「teratail」について詳しく知る