ニューラルネットワークの分類での確率の出力

Question

ニューラルネットワークの分類の際に、出力層に向かっていく中で、重みづけや活性化関数を使って値が変化し、最終的に確率として出力されると思うのですが、これは、確率になるように、入力層から得た値の単位を変化していくという解釈でよろしいのですか？

Answer 1

若干解釈が異なります。

出力は確率でもなんでもなく、正解ラベルへの近似です。入力からの順次の計算結果として正解ラベルへの近似を得られるように、全体のパラメータを自動調整していく、のがニューラルネットワークの動きです。

分類問題の場合は、最初に正解ラベルをOneHotEncodingして、正解を1、その他を0という配列になおします。その配列に近似しようと（合計を1に保ったまま）動作するため、結果として「確率に見える」だけです。

ただし、それを「機械学習が予想した確率である」と解釈しても違和感はありません。ただし、質問者様の解釈のように、数学的な確率計算がなされているわけではなく、意味を持たない実数としての正解ラベルへの近似でしかありません。

Comments

[OWATA0723hk]

わかりやすい回答ありがとうございました！