scikit-learnマルチクラスSVCの重み係数について

Question

現在scikit-learnのlinearSVCを利用して分類器を作成し、その重み係数を用いて分類に有用な次元を見つけ出そうとしています。

~~scores_~~coef_を参照し、ソートすることで2値分類の場合は有用な次元（重み係数の大きな次元）を取得することができたのですが、
マルチクラス分類の場合がよくわかりません。

恐らく1対1で全ての組み合わせ分の係数行列が得られるのだろう、というところまでは理解できたのですが、
一体どれがどのクラス間の重み係数なのかが分からず、有用な次元を取得することができません。

得られた係数行列がどのクラスとどのクラスを分類する係数であるかはどのように分かるのでしょうか。

Answer 1

scores_を参照し

リファレンスを確認しましたが、見当たりません。

sklearn.svm.LinearSVC — scikit-learn 0.22.2 documentation

見るとしたら、coef_でしょう。2クラスの場合はshape = [1, n_features]なので、そのまま見てください。多クラスの場合、shape = [n_classes, n_features]なので、各特徴ごとに全分類クラスの係数の絶対値の平均か二乗平均平方根を取ると良いでしょう。

Comments

[merll0573]

大変申し訳ありません。scores_でなくcoef_の誤りでした。

>多クラスの場合、shape = [n_classes, n_features]
とのことなので、coef_を[1, n_features]*n_classesに分解して、それらの数値をそれぞれソートすることで各クラスの分類に有用な次元を抽出できるのではないかと考えたのですが、coef_の行がどういった順番に並んでいるのかが分からず、得られた[1,n_features]*n_classesをどのクラスと紐づければよいのかといったことをお聞きしたいです。

[hayataka2049]

クラスラベルをLabelEncoderなどで整数に変換すれば、インデックスと対応します。

[merll0573]

ありがとうございます！大変参考になりました。