説明変数の重要度変数（importances[indices]）の評価方法の件

Question

1.前提
バギングとブースティングによる回帰予測をしています。
説明変数の重要度変数（importances[indices]）の評価方法
で、ランダムフォレストやXGBoostは、合計１での説明変数別の評価値が
得ることができます。
しかし、CatBoostでは、合計100での説明変数別の評価値となります。
また、lightGBMでは、合計値は数十~数百と定まった値ではありません。

2.実現したいこと
ランダムフォレストやXGBoostは、条件が同じなので、評価の仕方
も同じでよいと考えます。
4つのアルゴリズムでの説明変数比較をしたいのですが、他の２つ
アルゴリズムについては、以下の疑問があります。
１）catboostは、100で割って、重要度合計１にして各説明変数を評価すべきものなのか？
２）lightGBMは、総計で割って、重要度合計１にして各説明変数を評価すべきものなのか？
詳しい方のご意見をよろしくお願いいたします。

3.参考コード

#（lightGBMのコード）
# 特徴量重要性を計算
importances = model_lgb.feature_importance()
# 特徴量重要度の変数
importances[indices]


#（lightGBM以外のコード）
# 特徴量重要性を計算
importances = model.feature_importances_
# 特徴量重要度の変数
importances[indices]

Answer 1

• 同列に扱いたければ合計1に揃えるしかありません
• ライブラリ・モデルごとに定義が食い違う可能性があるので、厳密に値の比較を行うのであればそれぞれの仕様を確認してみた上で、意味のある比較が行えるかどうか検討しないといけません（ちょっと難しい）
• 細かい値の相違は無視して、大雑把に重要度でランク付けして確認してみる程度であれば、そこまで気にする必要はないかもしれません
• この手の変数重要度は、どの道さほど厳密なものではなく、目安程度の意味しかありません。線形回帰や判別分析の係数であれば統計的な分析に使えますが、そこまでのお役立ちは期待できません

けっきょくのところ、変数重要度からなにを言いたいのか？　次第ではないでしょうか。

Comments

[kouji_39]

ご回答ありがとうございます。文献等を調査してみると、以下のコメントがありました。
「重要度は「ターゲットの分類にその特徴量による分割がどれくらい寄与しているかを測る指標」なのであって、具体的にどの特徴量をどれくらいの値にすると結果がどうなるのかは言えません。」
重回帰の例では、ある変数をどれくらいの値にすることでどれだけターゲットの値が変化するのかがわかるようなことがありますが、決定木系統での重要な特徴量では同様なことが言えないということですね。
ランダムフォレスト等の予測モデルに使用する特徴量選択の面では、意味のある数値と考えています。