optunaでLightGBMをクロスバリデーションしてパラメータチューニングしたい

Question

前提・実現したいこと

機械学習でLightGBMのパラメータチューニングをoptunaを使って行いたいです。

公式ドキュメントを読み、

conda install -c conda-forge optuna

でoptunaをインストールしました。
LightGBMのパラメータチューニングは、クロスバリデーションを使って行いたいです。

こちらのソースコードをみると、optuna.integration.lightgbm_tuner.optimize.pyの中に、LightGBMTunerCVクラスがあり、これを使えば実現できそうだと考えました。

そこで、次のようにimportして使おうとしました。

from optuna.integration.lightgbm_tuner.optimize import LightGBMTunerCV  
# できない

が、以下のようにエラーが出てしまいます。

エラーメッセージ

ImportError                               Traceback (most recent call last)
<ipython-input-62-ca676bc86cb4> in <module>
----> 1 from optuna.integration.lightgbm_tuner.optimize import LightGBMTunerCV
      
ImportError: cannot import name 'LightGBMTunerCV' from 'optuna.integration.lightgbm_tuner.optimize' (C:\Users****\miniconda3\lib\site-packages\optuna\integration\lightgbm_tuner\optimize.py)

ちなみに、同じoptimize.pyの中にある、LightGBMTunerクラスは以下のコードで問題なくインポートできます。

from optuna.integration.lightgbm_tuner.optimize import LightGBMTuner  
# 問題ない

試したこと

こちらのドキュメント(condaでインストールしたものと同じバージョンのドキュメント)には

class optuna.integration.lightgbm_tuner.LightGBMTunerCV

のように書かれていて、場所が微妙に違うので、なおさら混乱してしまいました。
こちらの場所からインポートしようとしても

-------------------
ImportError                               Traceback (most recent call last)
<ipython-input-63-e1581a47ef41> in <module>
----> 1 from optuna.integration.lightgbm_tuner import LightGBMTunerCV

ImportError: cannot import name 'LightGBMTunerCV' from 'optuna.integration.lightgbm_tuner' (C:\Users****\miniconda3\lib\site-packages\optuna\integration\lightgbm_tuner\__init__.py)

と別のエラーが出てしまい、やはりできません。

初歩的な質問で申し訳ございませんが、どうかご教授の程よろしくお願い致します。

Comments

[m.ts10806]

回答依頼いただいたようですが、質問につけられたタグは何一つ知見がありません。タグのスコアなどみられたほうが無駄なくアドバイスを得られるかと思います。

[feyn]

m.ts10806さん
大変失礼いたしました。申し訳ございません。

Answer 1

現在最新版(v1.4.0)のブランチで同じ optimize.py のコードを確認すると、まだ LightGBMTunerCV は定義されておらず、次回以降のリリースに含まれるっぽいです。

https://github.com/optuna/optuna/blob/v1.4.0/optuna/integration/lightgbm_tuner/optimize.py

最新版のドキュメントにも LightGBMTunerCV は存在しますが、ドキュメントも master ブランチを参照しているみたいです。

待ち遠しい機能ですね。

Comments

[feyn]

regonnさん、ご回答ありがとうございます。git についてよくわかっていないのですが、このv1.4.0をcloneすればLightGBMCVを使える、ということにはならないのでしょうか？

[regonn]

conda や pip でも git を利用して github のリポジトリから直接インストールする機能はあるので、そちらを使えば良さそうです。

v1.4.0 ブランチではまだ、LightGBMCV は存在していないので、 master ブランチを利用する必要があります。

conda を使う場合には次のリンク先のような方法を利用するとmasterブランチをインストールできると思います。(少し複雑です)
https://stackoverflow.com/questions/19042389/conda-installing-upgrading-directly-from-github

pip であれば

pip install git+https://github.com/optuna/optuna.git@master

のようにすれば、master ブランチの optuna をインストールできるので、LightGBMCV を利用できるようになると思います。

[feyn]

regonnさん、詳しいご回答ありがとうございました！おかげさまで無事使えるようになりました。