DataFrameをモデル別に前処理し、それぞれ学習させてvotingでアンサンブル学習をしたいです（前処理＋学習をpipelineにまとめる）。

Question

前提・実現したいこと

テーブルデータの二値分類の分析をしています。
複数のモデルを作りアンサンブル学習をしようと思っています。
モデルごとに別々の前処理をしたDataFrame（LightGBM用ははそのまま、ロジスティック回帰用は相関の強い列を削除してダミー変数化を施したもの、といった感じ）を用意し、それぞれでモデルを学習させ、votingでアンサンブル学習を行い、その時のROC曲線とROCAUCのスコアを出力させたいと考えています（前処理で行の削除は行いません）。

やり方としては、このサイト（https://www.robonchu.info/entry/2017/11/20/154546#%E5%A4%9A%E6%95%B0%E6%B1%BA）を参考に、各DataFrameの前処理とモデルの学習をpipelineにまとめ、Majority voteを実行しようかなと考えているのですが、私が調べた限り、「pandas等での特定の列に対する複数の処理＋モデルの学習」を一つのpipelineにまとめたものを見つけられませんでした。pdpipeというツールでは、pandas処理をpipelineにまとめられるようなのですが、前処理と学習を一つにまとめることが出来る方法は無いのでしょうか？

また、今の方針とは違った良い方法などありますでしょうか？

質問に不慣れなため、分かりにくい点などあるかもしれませんが、ご回答頂ければ幸いです。

Answer 1

前処理でやりたいこと次第ですが、sklearn.compose.ColumnTransformer を使って普通にpipelineを組めばいいと思います。

https://dev.classmethod.jp/articles/how_to_use_columntransformer_sklearn/とか
https://www.haya-programming.com/entry/2019/06/29/194801 が参考になるかと思います。

もっと複雑なことをしたい場合は、自分でTransformerのクラスを作ってpipelineに組み込むことになると思います。
https://nigimitama.hatenablog.jp/entry/2020/11/09/080000 あたりを参考に、データフレームを変換している処理をクラス化すればいいです。

Comments

[almark7032]

回答ありがとうございます。
試してみようと思います！