特徴量の尺度揃えについて

Question

機械学習の回帰予測モデル作成にあたり、特徴量の尺度を揃える
ことは重要なですが、決定木やランダムフォレストは特徴量を揃える
必要が無いと参考書にありました。一方、SGD（勾配降下方法）や
サポートベクトル回帰などは、複数の特徴量の尺度が同じ場合に
うまくいくとありました。（参考書では、最適化アルゴリズムの
回帰モデルが徴量の尺度揃えが有効という表現）
ここで、尺度揃えには、正規化と標準化が一般的です。
・正規化：特徴量を[0,1]の範囲に変換
・標準化：平均が０、標準偏差が１に変換
上記の２つについては、どう使い分けされてますでしょうか。
私的には、標準化をStandardScaler（sklearnの標準クラス）で
使用しています。

Answer 1

正規化は必ずしも0-1の区間に収めることを言うわけではありません。はっきりした定義はないと思います。文脈によって意味が違います。

機械学習の前処理としては標準化（平均0分散1）が無難です。最大値と最小値は外れ値の影響が大きいため、どちらかといえば避けられると思います。

Comments

[kouji_39]

いつもありがとうございます。
自分なりに調べたところ、正規化を、各サンプルが１の長さになるようにスケーリングされる（preprocessing．normalize（）で指定）もの。0-1の区間に収めるものを、MinMaxScaler
クラスを使う（preprocessing．MinMaxScaler（）で指定）を使うものというように区別
している書籍もあります。また別の書籍は、正規化をMinMaxScalerクラスを使うのがほとんど
という書籍もありました。基本的には、多くの機械学習には、標準化が実用的であろうという
ことをいわれている書籍もありました。