質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.10%

【scikit-learn】Label EncoderとOne Hot Encoderの使い分けについて

解決済

回答 1

投稿 編集

  • 評価
  • クリップ 0
  • VIEW 75

dal

score 29

最近機械学習(データ解析)の勉強をしているのですが、疑問に感じる点があったので質問させていただきます。

scikit-learnには、カテゴリ変数を数値化するためのメソッドとして

・Label Encoder
・One Hot Encoder

が存在しています。

これらの使い分け方に関して詳しい方にお聞きしたいのですが、
分類の場合はLabel Encoderを、回帰の場合はOne Hot Encoderを使うのが適切であるという解釈でよろしいのでしょうか?

以上のように考えた理由としては、
Label Encoderはカテゴリ変数をそのまま数値に置き換える
→数値の大小が順序的意味を持ってしまう
→数値を予測する回帰には思わしくない影響を与えてしまう(分類であれば問題なさそう?)
という思考に陥ったからです。
逆に、One Hot Encoderは、カテゴリ変数をダミー変数化(0・1のみに)してくれるため、順序的意味を持たずに済み、回帰にも使用できるのではないかと考えました。

詳しい方がいましたら、以上の内容についてご教授いただきたいです。
よろしくお願いいたします。

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

質問への追記・修正、ベストアンサー選択の依頼

  • hayataka2049

    2019/10/10 01:25

    git_dummiesはget_dummiesです。ついでにいうと、これはpandasの関数の名前ですが、関係ないのであれば質問から消した方が良いと思います。

    キャンセル

  • dal

    2019/10/10 01:33

    ご指摘ありがとうございます。
    打ち間違えをコピペしてしまってました...

    scikit-learnとは無関係なので、指摘通り削除いたしました。

    キャンセル

回答 1

checkベストアンサー

0

まずLabelEncoderは目的変数側に、OneHotEncoderは説明変数側に使うという大きな違いがあり、使う場所が違うので使い分けを考える必要はありません。

fit(self, y)
Fit label encoder

Parameters:    
y : array-like of shape (n_samples,)
Target values.

sklearn.preprocessing.LabelEncoder — scikit-learn 0.21.3 documentation

scikit-learnのモデルの多くは実はターゲットはラベルのまま(たとえば文字列で["hoge", "hoge", "fuga", ...]のような)入れても動いてくれます。LabelEncoderを使う必然性はあまりないのかもしれません(それでもなんとなく気持ち悪いから使っておく、程度の存在)。

では説明変数側でLabelEncoderと同様のことをするものはないのかというと、OrdinalEncoderというモデルがあります。OneHotEncoderと比較するならこちらになります。

sklearn.preprocessing.OrdinalEncoder — scikit-learn 0.21.3 documentation

で、あるにはあるのですが、説明変数を0,1,2,...にすることは回帰でも分類でも基本的にはありません。ユーザーガイドにも思いっきりそう書いてあります。そういう目的ならOneHotEncoderを使え、と。

To convert categorical features to such integer codes, we can use the OrdinalEncoder. This estimator transforms each categorical feature to one new feature of integers (0 to n_categories - 1):

>>> enc = preprocessing.OrdinalEncoder()
>>> X = [['male', 'from US', 'uses Safari'], ['female', 'from Europe', 'uses Firefox']]
>>> enc.fit(X)  
OrdinalEncoder(categories='auto', dtype=<... 'numpy.float64'>)
>>> enc.transform([['female', 'from US', 'uses Safari']])
array([[0., 1., 1.]])

Such integer representation can, however, not be used directly with all scikit-learn estimators, as these expect continuous input, and would interpret the categories as being ordered, which is often not desired (i.e. the set of browsers was ordered arbitrarily).

5.3. Preprocessing data — scikit-learn 0.21.3 documentation

一応用意されているけど、実用的ではないよ、くらいの位置づけです。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2019/10/10 14:15 編集

    ご回答ありがとうございます。
    色々と勉強になります...

    要するに、回帰にしろ分類にしろ、説明変数におけるカテゴリ変数を扱う場合は`OneHotEncoder`の使用が適切であるということになりますよね?

    キャンセル

  • 2019/10/10 14:20

    基本的にはその考え方でいいと思います。たとえばテキストなど特殊なデータに対しては他の表現方法もあったり、統計的な分析を意図するなら単なるone-hotはあまりよくなかったりということはありますが(調べてみてください)。

    キャンセル

  • 2019/10/10 14:37

    ありがとうございます。
    自分でも、もう少し調べてみます!

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 90.10%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる