Q&A
#わからないこと
文字列を少数の型に変換したいのですが第4位までの値までしか精度が出ません。文字列の精度をそのままに変換する方法はありませんか?使用している言語はMATLABです
###例
a = '-0.112944'
str2double(a)
0.1129
%0.112944としたい
回答3件
0
MATLAB はほとんど触ったことがないので間違っているかもしれませんが。
これは、単に出力するときに小数点以下第4位までに丸められているだけで、内部では小数点以下第4位以上の精度で値を保持していると思います。
投稿2019/11/20 10:48
総合スコア999
0
format long
str2double(a)
ans =
-0.112944000000000
投稿2019/11/20 12:05
総合スコア1582
0
残念ながら、あなたの言う文字列というのは１０進数です
対して、double型というのは２進数です。
相互の変換を繰り返しては、根本的に精度が出るもんではありません
投稿2019/11/20 10:38
編集2019/11/20 10:40
総合スコア88038
あなたの回答
tips
プレビュー
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。