質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

解決済

1回答

3061閲覧

sklearn gradientboostingを用いた不均衡データの分類

kuwanomin

総合スコア12

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

0クリップ

投稿2019/08/28 19:37

前提・実現したいこと

不均衡データに対してGradientBoostingを用いた分類予測を行いたいと考えています。

発生している問題・エラーメッセージ

データの数により重み付けを行いたいと考えていますが、class_weightなどの指定ができず困っています。
例えば、sklearnでSVM使用の場合はclass_weightが指定できるかと思います。
GradientBoostingを使用する場合は、どのようにすればよいかご教示頂きたいです。

該当のソースコード

from sklearn.ensemble import GradientBoostingClassifier from sklearn.grid_search import GridSearchCV model = GradientBoostingClassifier(n_estimators=3000,) parameters = {'learning_rate' : [0.1, 0.05, 0.02, 0.01], 'max_depth': [4, 6, 10, None], 'min_samples_leaf': [3, 5, 9, 17], 'max_features': [1.0, 0.3, 0.1,"auto",None]} gscv = GridSearchCV(model, parameters, verbose=3, n_jobs=-1, cv=3) gscv.fit(X_train, y_train) print("best score=", gscv.best_score_) y_pred = gscv.best_estimator_.predict(X_test) conf_mat = confusion_matrix(y_test,y_pred) conf_mat

試したこと

データ数による重み付けなしで、グリッドサーチによるチューニングとテストデータの予測、混同行列の算出までを行いました。

補足情報(FW/ツールのバージョンなど)

ここにより詳細な情報を記載してください。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

まだ回答がないようなので、GradientBoosting ではないのですが、代案を書いておきます。
GradientBoosting でなくても、勾配ブースティングアルゴリズムなら大丈夫という場合は、XGBoost (eXtreme Gradient Boosting) が不均衡データに対応した引数 scale_pos_weight を持っています。
パラメータの説明
scale_pos_weight [default=1]
Control the balance of positive and negative weights, useful for unbalanced classes. A typical value to consider: sum(negative instances) / sum(positive instances).
Python で書かれたサンプルプログラム

XGBoost ではだめでしょうか?

投稿2019/09/05 13:20

maq

総合スコア41

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問