Optuna 一般的な探索回数は何回でしょうか？

Question

実現したいこと

Optunaにおいてパラメータを変更して探索する回数は一般的に何回が目安でしょうか．
もちろん，やればやるほど良いパラメータが見るかるとは思いますが，目安として最低でもこのくらいの回数は探索した方がよいという回数はありますか？

パラメータの種類は，エポック数や中間層の数，活性化関数の種類など，計5種類くらいでしょうか．
それぞれのパラメータ，特にエポック数は少ない数から多い数まで幅が広いため，パラメータの種類は少なくても探索回数は膨大になると思います．

Answer 1

データやモデルや計算資源に依存するので、一般的な探索回数はありません！というのが答えです。

それだと寂しいので、「optuna "n_trials"」でググってみたところ、n_trials=100が多数派のようです。optunaのチュートリアルがそうなっているので、皆さんマネしているのかと思います。いくつにするべき、といった記述は見当たりませんでした。

とりあえずn_trials=100でまわしてみて、学習時間やらできたモデルの精度やらをもとに、上下調整するのかな、というアバウトな指針になります。

ちなみに、LightGBM Tunerもチュートリアルはn_trials=100ですが、LightGBMに特化した探索なので、生optunaのn_trials=100とは、まさに「モノが違う」でしょう。

Comments

[aheshiyu_tt]

たしかに100回というサイトは多く見かけました．
とりあえず，100回で試してみてその後回数を上下させるという方法を採ろうと思います．
ありがとうございました．