Ridge回帰のalphaはどういう役割を持つのか

Question

scikitlearnのRidgeクラスのalphaはどういう役割なのでしょうか？
公式ドキュメントには
http://scikit-learn.org/stable/modules/generated/sklearn.linear_model.Ridge.html
Regularization strength＝正規化の力と書いてありますが、この表現から読み取るに
正規化の力が大きければ大きいほど（つまりalpha=1.0に近いほど）、良いということではないのでしょうか？

Answer 1

正則化です。

過学習しにくくなります。

Comments

[退会済みユーザー]

つまり、alpha=1.0に近いほど良いということですよね？

[mkgrei]

正則化のパラメータはハイパーパラメータとなります。

データによって適切な値が必要です。

alpha->0で正則化はなく、過学習しやすくなります。
逆に、alpha->infですべての予測値は定数になります。

一概にはどれがよいかはありません。

[mkgrei]

そのためにalphaの値をいい具合に見つけてくれるRidgeCVというクラスが存在しています。
http://scikit-learn.org/stable/modules/generated/sklearn.linear_model.RidgeCV.html

[mkgrei]

一応、正則化という概念について
https://ja.wikipedia.org/wiki/正則化