teratail header banner
teratail header banner
質問するログイン新規登録

回答編集履歴

1

回答に追記

2018/04/19 23:42

投稿

y_waiwai
y_waiwai

スコア88180

answer CHANGED
@@ -1,1 +1,11 @@
1
- 浮動小数点の処理云々より、2進数>10進数変換の方を調べるべきなのでは
1
+ 浮動小数点の処理云々より、2進数>10進数変換の方を調べるべきなのでは
2
+
3
+ ---
4
+ そもそも、問題は何でしょうか。
5
+ 計算の結果が100000000001010101010101010101010101010101010101010101010101011 となるのを問題にしているのか、
6
+ その表示が3.3333333333333335なのを問題にしてるのか、どっち?
7
+
8
+ 計算結果が間違っていると言うなら計算ライブラリやFPUユニットのバグの話になるだろうし、
9
+ 表示が問題だと言うなら、浮動小数点から文字列の変換のバグの話になるだろうけど、
10
+
11
+ どちらにしても、あなたがこだわっている浮動小数点の表現のはなしにはならないと思うんですが