python3 ソフトマックス関数

Question

def softmax(a):

... c = np.max(a)
... exp_a = np.exp(a-c)
... sum_exp_a = np.sum(exp_a)
... y = exp_a / sum_exp_a
... return y
...

a = np.array([0.3,2.9,4.0])
y = softmax(a)
print(y)

[ 0.01821127 0.24519181 0.73659691]

np.sum(y)

1.0
これで出力が１になるのはわかるんですが、

a = np.array([3.3,9.9,9.0,2.1,3.4])
y = softmax(a)
print(y)

[ 9.64907328e-04 7.09298735e-01 2.88379345e-01 2.90624502e-04
1.06638752e-03]

np.sum(y)

1.0
このように数字を増やした場合も１になります、どう計算しても１になるとは思えないのですが、、
入力層の数字の数は決まりがあるんですか？

a = np.array([0.3,2.9,4.0,1.2,6.1])
y = softmax(a)
print(y)

[ 0.00257951 0.03472988 0.10433431 0.00634458 0.85201172]

np.sum(y)

1.0
この場合はしっかり１になります。違いはなんですか？？

Answer 1

>>> sum([  9.64907328e-04,   7.09298735e-01,   2.88379345e-01,   2.90624502e-04, 1.06638752e-03])
0.9999999993500001

だいたい1.0ですね。

仮数部と指数部というキーワードでググれば答えが出ます。

Comments

[Mario_11]

1.0になるんだ、、、
仮数部と指数部かなり難しいですね、、、
ありがとうございました！！