以下のように、jupyter notebookでprecisionを使っています。
ここでは、fish_dataというデータを標準化しています。
python
1import numpy as np 2import scipy as sp 3%precision 3 4 5fish_data = np.array([2, 3, 3, 4, 4, 4, 4, 5, 5, 6]) 6sigma = sp.std(fish_data, ddof=1) 7mu = sp.mean(fish_data) 8 9standard = (fish_data - mu) / sigma
ここで例えばstandardを出力すると
out
1array([-1.732, -0.866, -0.866, 0. , 0. , 0. , 0. , 0.866, 2 0.866, 1.732])
という結果が得られ、小数点以下三桁が出力されるのですが、
python
1sp.mean(standard)
を出力すると
out
12.2204460492503132e-17
となり、
python
1sp.std(standard)
の出力は
out
10.9486832980505139
となり、それぞれ0と1になってくれません。
なぜprecisionが効かないのでしょうか。
回答お願いいたします。
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。