なぜ交差エントロピー誤差関数を最小化すると尤度関数を最適化することになるのか？

Question

ディープラーニグについて勉強しています。
交差エントロピー誤差関数を最小化すると尤度関数を最適化する、という説明を読んだのですが、なぜそうなるのでしょうか？

Comments

[quickquip]

「尤度関数が最適化されると交差エントロピー誤差関数が最小化する」が成り立つのはいいとしても、逆が成り立つという保証はあるのか? という質問でしょうか。

Answer 1

尤度関数に対数をとり、負の値をとったものが交差エントロピー関数だからです。

以下の論理で交差エントロピー関数の最小化は尤度関数の最大化と同値になります。

尤度関数の最大化
⇔
尤度関数に対数をとったものを対数尤度関数という。
対数関数は単調増加なので、尤度関数の最大化と対数尤度関数の最大化は同値
⇔
対数尤度関数に負をとると交差エントロピー関数になる。
対数尤度関数の最大化は交差エントロピー関数の最小化と同値