前提・実現したいこと
テキストボックスに数字を入力してクリックすると小数点以下2桁の桁記号付き数字で表示されるようにしていますがクリックを繰り返すと、入力数値が「1111.3333」と「2222.3333」で2桁目が違ってしまいます
該当のソースコード
Windows10付属の Windows PowerShell V5 ソースコード $sing = 1111.3333 Write-Host "数字 = ", $sing $Str = ([Math]::Truncate($sing*100)/100).ToString("#,#.##") # 小数点以下第3位を切り捨て、桁表示文字列に Write-Host "文字 = ", $Str $sing = [single]$Str Write-Host "数字2 = ", $sing $Str = ([Math]::Truncate($sing*100)/100).ToString("#,#.##") # 小数点以下第3位を切り捨て、桁表示文字列に Write-Host "文字2 = ", $Str $sing = [single]$Str Write-Host "数字3 = ", $sing $Str = ([Math]::Truncate($sing*100)/100).ToString("#,#.##") # 小数点以下第3位を切り捨て、桁表示文字列に Write-Host "文字3 = ", $Str ### 発生している問題・エラーメッセージ 数字 = 1111.3333 文字 = 1,111.33 数字2 = 1111.33 文字2 = 1,111.32 数字3 = 1111.32 文字3 = 1,111.31 数字 = 2222.3333 文字 = 2,222.33 数字2 = 2222.33 文字2 = 2,222.33 数字3 = 2222.33 文字3 = 2,222.33 ### 試したこと 入力数値を100倍して100で割って小数点以下2桁にしている所を、とりあえず1000倍にして1000で割っていますが、原因が判らないので不安です。 どなたかコードの何処に原因があるのか教えて下さい。 ### 補足情報(FW/ツールのバージョンなど) ここにより詳細な情報を記載してください。
不動小数点の丸めの誤差というやつでは?
回答1件
あなたの回答
tips
プレビュー