32個以上のデータに対して非線形フィッティング

Question

###前提・実現したいこと
ここに質問したいことを詳細に書いてください
今、60個のデータ(x1,y1),...,(x60,y60)について、scipy.optimizeのcurve_fitを使って、パラメータa,bを持つ非線形関数f(x)=a*exp(x**2+x+b)でフィッティングをしたいと思っています。

###発生している問題・エラーメッセージ
xdata=np.ndarray(x)
ydata=np.ndarray(y)
parameter_optimal , covariance
=scipy.optimize.curve_fit(f,xdata,ydata)
として、フィッティングをしたいのですが、
xdata=np.ndarray(x)
ValueError: sequence too large; must be smaller than 32
と出てきてしまい、先に進めません。
どうすればこの60個のデータを非線形関数でフィッティングできるでしょうか。
pythonであれば他の方法(leastsqなど)でも良いので教えてください。
エラーメッセージ
xdata=np.ndarray(x)
ValueError: sequence too large; must be smaller than 32
###該当のソースコード
python
xdata=np.ndarray(x)
ydata=np.ndarray(y)
parameter_optimal , covariance
=scipy.optimize.curve_fit(f,xdata,ydata)

###試したこと
課題に対してアプローチしたことを記載してください
np.ndarrayの代わりに
np.arrayを使ってみたのですが、今度は
ValueError: The truth value of an array with more than one element is ambiguous. Use a.any() or a.all()
と出てしまいます。
###補足情報(言語/FW/ツール等のバージョンなど)
より詳細な情報

Comments

[can110]

変数x,yの生成部分のコード（具体的にどのようなデータ型になっているか）も提示ください。

Answer 1

a exp(x^2+x+b)の形でフィッティングするのは得策ではありません。
理由は解に一意性がない（未知パラメータa,bが無限に存在する）からです。

a exp(x^2+x+b) = a exp(b)exp(x^2+x)ですから、a,bを求めるのではなく c exp(x^2+x)でフィッティングすればよいでしょう。この場合、cは一意に定まります。

cが求まったあと、c = a exp(b)を満たすa,bを求めてもよいですが、そのようなa,bの組み合わせは無限にありますし、何か一組を求めてみてもその組自体に意味はありません。

Comments

[mkgrei]

最適化のアルゴリズムには明るくないのでなんとも言えないのですが、cは、a,bが決まればまとめることができます。
a,b自体に意味なかったとしても、最終的にcを得られることに変わりはありません。
ただ気になるとすれば収束先で得られるcというわけですが、①Levenerg-Marquardt法を使っていること、②xdataとydataの組み合わせが同じこと、が同じ条件であればcへの収束性はa,bを使った場合と同じになるでしょうか？
自由度が高い分、局所最適解を迂回できるとも考えられるし、自由度が高い分局所最適解が多くなってハマりやすいとも思えます。
何か一般的な性質があるのならご教授願いたくございます。

[WathMorks]

「最終的にcが得られることに変わりありません」。ロジックが逆ですね。cを求める問題（一変数の凸最適化問題）として定式化し、そこから出発することが重要です。（狭義）凸最適化問題であれば、一般的に解の一意性が保証されます。したがって（まともな）解法であれば何を使っても必ず解が求まります。 （今回の問題はコスト関数が2乗ノルムなら解は解析的に求まります。）
また、求まった曲線は c exp(x^2+x)と書けますから、c= a exp(b)を満たす任意に組(a,b)を求めたところで、ご利益は何らありません。

「自由度が高い分、局所最適解を迂回できるとも考えられるし、自由度が高い分局所最適解が多くなってハマりやすいとも思えます。」
自由度と局所解うんぬん、は無関係です。注目すべき点は、コスト関数は凸か非凸か、ということです。凸最適化問題として解ける問題を非凸最適化問題のまま扱うのはナンセンスです。

[mkgrei]

問題の性質について把握しておりませんでした。
この提示されている最適化問題は狭義の凸最適化問題に分類されるので、そのための解法を使うべきという認識で正しいでしょうか？

一般な最適化問題に対する反復法解法を想像していました。

※誤って回答に投稿してしまいました。

[mkgrei]

勉強になりました。ありがとうございます。
比較してみた結果を加えて回答を修正しました。

Answer 2

乱数でデータを生成しているのでいつも解が得られるわけではありませんが、素直に書いてもエラーは出ませんでした。

import numpy as np
from math import exp
from scipy.optimize import curve_fit
def f1(x, a, b):
    return a*np.exp(x*x+x+b)
def f2(x, c):
    return c*np.exp(x*x+x)

n = 60
x = np.random.random(n)
y = np.random.random(n)
(a, b), cov = curve_fit(f1, x, y)
(c), cov = curve_fit(f2, x, y)
print('a, b, a*exp(b), c', a, b, a*np.exp(b), c)
print('MAE[a,b], MAE[c]', np.mean(np.abs(f1(x, a, b)-y)), np.mean(np.abs(f2(x, c)-y)))

---

追記：
rkhsさんの回答を受けてcに対する最適化問題も追加しました。
比較も残しました。

cに対して最適化を行うと正しいフィッティングが得られます。
a,bに対して行うと、運が良ければ解が一致します。
ただし正しくフィッティングできないときもあります。

やはり余分なパラメータを加えると局所最適解にハマりますね。
いろいろと試してみてください。