ディープラーニングで多重共線性は発生しない？

Question

重回帰分析では、多重共線性の問題が発生する場合がありますが、以下のような機械学習でも発生するのでしょうか？

・ディープラーニング（keras（tensorflow））、サポートベクターマシン、ロジスティック回帰分析

発生する場合、どうやってそれを発見し、また、どのように対処すればよいのでしょうか？

お詳しい方、ご教示頂ければありがたいです。

Answer 1

一般的な機械学習では何らかの形で正則化（に類似した機構）が入ることが多く、多重共線性はそこまでシリアスな問題とはみなされないと思います。

モデルの解釈には基本的にあまり興味がない（中身がなんであれ予測精度がよければヨシ！する）という背景があるのも大きいでしょう（統計分野だとこの変数の効果は～という話がすぐに始まりますが）。

こういう考え方に立脚するのであれば、

• 多重共線性の有無に関わらず正則化っぽいものはかけておく
• 正則化の強さはパラメータチューニングで調整する

で終わり、です。

Comments

[python_2019]

ご回答ありがとうございました。

一般的な機械学習では、あまり多重共線性の問題を気にしなくてよい、ということですね。
大変貴重な情報どうもありがとうございました。