深層学習においてRelu関数がよく使われる理由について教えてください

Question

こんにちは
深層学習について勉強しています。
活性化関数にはステップ関数やシグモイド関数、Relu関数等があることを知りました。
様々な種類がある活性化関数の中でもRelu関数がよく使われる理由は何ですか？
よろしくお願いいたします。

Answer 1

勾配消失問題を解決する手法として、活性化関数にRelu関数を用いることがそのうちの一つに挙げられるからと理解しました

Comments

[insecticide]

Relu関数はどうして勾配消失問題を解決できるのでしょうか。