質問編集履歴
3
試したことの項目に計算結果を確認してみたことを追加
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -1,14 +1,20 @@
|
|
|
1
|
+
初質問で言葉足らずや情報不足等あると思いますが、どうかお力添えをお願いいたします。
|
|
2
|
+
|
|
3
|
+
|
|
4
|
+
|
|
1
5
|
### 前提・実現したいこと
|
|
2
6
|
|
|
3
7
|
Tclでの入力された少数とある計算結果の少数との比較（○○E-05以下との比較にも対応）
|
|
4
8
|
|
|
5
|
-
この度、触れたことのなかった言語Tclでスクリプトを記述しており、その中でユーザーの入力した少数と○○E-05以下の数値との比較を行いたい
|
|
9
|
+
この度、触れたことのなかった言語Tclでスクリプトを記述しており、その中でユーザーの入力した少数と指数にすると○○E-05以下の数値との比較を行いたいと考えております。
|
|
6
10
|
|
|
7
11
|
|
|
8
12
|
|
|
9
13
|
### 発生している問題
|
|
10
14
|
|
|
11
|
-
入力した少数との比較を行う際に比較対象の計算結果が○○E-04以上になる場合は正常に動作しているのですが、どうにも○○E-05以下になる場合には自動的に指数として返ってきており、その返り値との比較を行うと○○E-05の○○の部分との比較になってしまっているようです。
|
|
15
|
+
入力した少数との比較を行う際に比較対象の計算結果が○○E-04以上になる場合は正常に動作しているのですが、どうにも○○E-05以下になる場合には自動的に指数として返ってきており、その返り値との比較を行うと○○E-05の○○の部分との比較になってしまっているようです。
|
|
16
|
+
|
|
17
|
+
(○○の部分との比較になっているというのはリストの値をソートして出力してみたところ指数のものが大きなものとして扱われていたためにそう判断しております。この考えも間違っているかもしれません)
|
|
12
18
|
|
|
13
19
|
|
|
14
20
|
|
|
@@ -43,3 +49,5 @@
|
|
|
43
49
|
|
|
44
50
|
|
|
45
51
|
double() [scan %f] など少数に関係のありそうなものは試してみたのですが返ってくる値が指数となっております。
|
|
52
|
+
|
|
53
|
+
計算結果のリストをソートすると実際はとても小さい値である指数表記のものは大きな値としてソートされておりました。
|
2
タイトルに誤字があったので修正
test
CHANGED
|
@@ -1 +1 @@
|
|
|
1
|
-
|
|
1
|
+
Tclでの少数と○○E-05以下になる少数の値の比較
|
test
CHANGED
|
File without changes
|
1
誤字修正
test
CHANGED
|
@@ -1 +1 @@
|
|
|
1
|
-
Tclでの少数と○○E-05以下になる少数の値の比較
|
|
1
|
+
gTclでの少数と○○E-05以下になる少数の値の比較
|
test
CHANGED
|
@@ -22,7 +22,7 @@
|
|
|
22
22
|
|
|
23
23
|
set resultList ○○ ;# 計算結果のリスト 繰り返し処理で計算した結果を格納しておきます。
|
|
24
24
|
|
|
25
|
-
for { set i 0 } { $i < $resultListの数 } { incr
|
|
25
|
+
for { set i 0 } { $i < $resultListの数 } { incr i 1 }
|
|
26
26
|
|
|
27
27
|
#計算結果とユーザーの入力した少数との比較を行います
|
|
28
28
|
|