提示コードのコメント欄の実行結果にもある通り浮動小数点の誤差を確認出来たのですがこれは値が割り切れない時に値を丸まるという処理の誤差です。 そのほかどんな誤差が生まれるのでしょうか?それとその修正方法が知りたいです。
参考サイト https://www.cc.kyoto-su.ac.jp/~yamada/programming/float.html
#include "stdio.h" #include "math.h" int main() { double b = sqrt(2.0); float a = sqrt(2.0); printf(" 電卓計算: 1.41421356237\n"); printf(" double型計算: %.15f\n",b); printf(" float型計算: %.15f\n",a); /*実行結果 電卓計算: 1.41421356237 double型計算: 1.414213562373095 float型計算: 1.414213538169861 */ return 0; }
回答4件
あなたの回答
tips
プレビュー