質問編集履歴
2
追記追加
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -36,6 +36,14 @@
|
|
|
36
36
|
|
|
37
37
|
```
|
|
38
38
|
|
|
39
|
-
結果、0.30000000が-2
|
|
39
|
+
結果、strMoji = -0.30000000がdSuuchi = -0.29999999999999999になってしまいました。
|
|
40
40
|
|
|
41
41
|
誤差の出ないように型変換するにはどのような方法がありますでしょうか。
|
|
42
|
+
|
|
43
|
+
|
|
44
|
+
|
|
45
|
+
### 追記
|
|
46
|
+
|
|
47
|
+
この後の処理でdSuuchiを計算式にて再計算した値を再びCSVに書き込む処理となっています。
|
|
48
|
+
|
|
49
|
+
変換された時点のdSuuchiの値をデバッガで確認した結果上記となっています。
|
1
誤記修正
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -36,6 +36,6 @@
|
|
|
36
36
|
|
|
37
37
|
```
|
|
38
38
|
|
|
39
|
-
結果、0.30000000が-2.9999999
|
|
39
|
+
結果、0.30000000が-2.99999999なってしまいました。
|
|
40
40
|
|
|
41
41
|
誤差の出ないように型変換するにはどのような方法がありますでしょうか。
|