関数が未知の場合のベイズ最適化実装

Question

ベイズ最適化を利用して、inputの値とoutputの値だけがわかっているブラックボックスな関数(シミュレーション)に対して、
次の実験input値を求めたいと思っています。
例えば、値は適当ですが、以下の10組のinput(x)とoutput(y)が過去の実験で分かっていて、次の11回目の実験のinputを求めたいです。
x1 = 1.2, y1 = 5
x2 = 1.4, y2 = 6
・・・
x10 = 1.1, y10 = 7

しかし、ネットで検索しても見つかるサンプルコードは、f(x)という関数を定義した上で次の実験値を更新するものばかりで、
f(x)がわからないと実装できないものばかりに見えました。
そのf(x)がわかれば苦労しないと思うのですが…
冒頭の例のように、いくつかの実験データが得られていて関数が定義できないときは、どうやって最適化するものなのでしょうか？
参考になるリンクなど教えていただけると幸いです。

※ちなみに、最終的には入力変数が30個くらいあるものでやりたいのですが、次元数的に厳しい気もしています。
その辺の情報もお持ちでしたらコメントいただけると幸いです。

Answer 1

データを与えると勝手にモデル（質問の記載でいうと関数）が生成される方法論はないと思ったほうがいいと思います。
一応、モデルそのものを推計する方法としてガウス過程がありますが、これも説明変数から多変量正規分布のモデルを定義して被説明変数に近似するように学習させるという手順になるので、程度の差はあれモデルを分析者が決める必要があります。

なお、商用のAIモデル開発フレームワークの中には、説明変数と被説明変数を設定すると、最もフィットするモデル式を提案してくれるものもあるということなので、これを活用するという選択もあるかもしれません。実際には、可能性のあるものを総当たりで試して最も性能の良いものを選択するという仕組みらしいので、実質的には無から有を生み出しているものではないようです。それでも、説明変数と被説明変数の関係をモデルにすることが難しいケースには有効のように思うので検討してもいいかと思います。

Answer 2

下記URLのような感じでしょうか。
ベイズ最適化で最高のコークハイを作る

問題設定を読んだ感じ、回帰分析（線形、あるいは多項式）やランダムフォレストなんかでも良さそうですが。