質問するログイン新規登録

回答編集履歴

1

誤字訂正

2016/06/11 13:34

投稿

catsforepaw
catsforepaw

スコア5944

answer CHANGED
@@ -4,7 +4,7 @@
4
4
 
5
5
  では、同じ結果のはずなのに表示結果が異なるのはどういうことかというと、「表示のさせ方が違う」のです。
6
6
 
7
- 多くの場合、数の計算に64bit浮動小数点を使っていますが、10進表記における有効桁数は15桁です。ご質問の中で誤差が出ている表示は、どれも15桁を超えています。そうすると、超えた部分を無理矢理表示しようとして誤差も含めて表示されてしまうのです。
7
+ 多くの場合、数の計算に64bit浮動小数点を使っていますが、10進表記における有効桁数は15桁です。ご質問の中で誤差が出ている表示は、どれも15桁を超えています。そうすると、超えた部分を無理矢理表示しようとして誤差も含めて表示されてしまうのです。
8
8
 
9
9
  > win7標準の電卓アプリ
10
10