pythonで実装する決定木分析の構造情報の把握

Question

閲覧ありがとうございます。
質問させていただくのは初めてですのでわかりにくいところがあるかもしれませんが、よろしくお願いします。

現在pythonにて決定木分析を行い、そこから得られる情報を利用するプログラムの作成を目指しています。
scikit-learnを用いることで決定木分析自体は行うことができるのですが、そこから作成したツリーから情報を得るということが全くできず、アドバイスやヒントをいただきたいという状況です。

対象のデータの詳細や得たい情報について以下にまとめていきます。
対象となるデータはある製品が不良品であるか、良品であるかということとその製品一つ一つに行われた製品テストの結果から成ります。
決定木分析は良品であるか不良品であるかをクラスに、複数あるテスト項目の結果を特徴量として製品データを分類することになります。
このようにして作成したツリーは以下のようになり、例えば赤い丸で囲まれたところに分類された製品は
TEST46で2.98以上の値を記録し、TEST65で0.59以下の値を記録したものとなります。

質問のテーマであるツリーの構造情報というのはこのようにして作成されたツリーにおいて、
最終要素に分類されたデータがどの特徴量（テスト項目）を利用しているのか、という情報になります。
例えば赤い丸で囲まれた要素に分類されたデータは、上に上にたどっていくことで得られるTEST65、TEST46という複数の特徴量が分類に必要な構造情報ということになります。

最初はツリーをテキスト化し、エクセル上でソートしたりすることでどうにかしていたのですが、
ツリーを複数作成することが前提であり、やはりpython上で行いたいと思っています。

このような情報をpython上で得る方法を探しているのですが、なにか良い方法はないでしょうか
よろしくお願いします。

Answer 1

sklearn.tree.DecisionTreeClassifier.decision_path

# -*- coding: utf-8 -*-
import numpy as np
from sklearn.datasets import load_iris
from sklearn.tree import DecisionTreeClassifier, export_graphviz


def main() -> None:
    iris = load_iris()
    clf = DecisionTreeClassifier(random_state=0)
    clf.fit(iris.data, iris.target)

    # sepal length, sepal width, petal length, petal width
    X = np.array([[5.0, 2.9, 1.0, 4.85]])
    #X = np.array([[5.0, 2.9, 1.0, 0.2]])
    print(clf.predict(X))
    print(clf.decision_path(X))
    print(clf.decision_path(X).todense())
    with open('iris-dtree.dot', mode='w') as f:
        export_graphviz(clf, out_file=f,
                        rounded=True,
                        feature_names=iris.feature_names,
                        class_names=iris.target_names,
                        special_characters=True)


if __name__ == '__main__':
    main()

◇参考情報
using-decision-path-in-decision-tree-in-python

Comments

[shunta.u]

回答ありがとうございます！
これはアイリスデータセットからツリーを作成して新たなデータＸを用意したとき、
どのノードを通るかを返す形になっているという理解でよろしいでしょうか？

たしかにdecision_pathを用いてどのノードを通るのかというのはわかるのですが、
今回知りたいこととしてはそのノードがどの特徴量を利用しているのかでして、pathと何かを組み合わせることでそういった情報を得ることはできますでしょうか？

[umyu]

＞shunta.uさんへ
＞どのノードを通るかを返す形
はい、その認識でOKです。

このプログラムは2つの事をやっています。
1,アイリスデータ・セットからツリーを形成して、データXの決定パス（ツリーを通った道を）表示。
2,ツリーの「特微量の判断条件」をexport_graphvizでDOTファイルとして生成。