交差認証(LOOCV)をするとあり得ない結果になります

Question

前提・実現したいこと

Python、統計学初心者の者です。
仕事の関係で、下記のことをPythonで実現したいと考えております。

① あるデータをtrainデータとtestデータに分割する
② trainデータを用いて、GLM(一般化線形モデル)によるポアソン回帰モデルを作成する。
③ 上記のモデルにtestデータを代入し、testデータの実測値とモデルによる予測値を比較する
(交差検証：cross variation)

今回、testデータを1つのみとし、trainデータを残りのすべてとする手法(leave-one-out)を施行したいと考えております。

発生している問題・エラーメッセージ

まず、お弁当の需要予測(https://signate.jp/competitions/24)のデータを用いて、
上記の手法をトライしました。
気温を説明変数、お弁当の販売数を応答変数とするポアソン回帰モデルを基に解析を行います。
Python初心者で思い通りのコードを書くことはできないので、
インターネットからコードのコピペを組み合わせて試行錯誤しました。
(https://tanuhack.com/statsmodels-multiple-lra/　を参考にしました。)

まず、0行目のデータ(2013/11/18のデータ)をtestデータ、残りをtrainデータとしてコードを書きました。
(このコードがうまく動けば、i行目のiをfor構文で回して、すべての行に対してこれを行い、評価する予定です。)

すると、出力された予測値が7.107093e+42 とあり得ない数値になってしまいます。

コードで誤っている部分があれば教えて頂きたいです。
また。　
test['pred'] = pred
の部分が何をしているのかが理解できず、こちらも教えて頂ければ幸甚です。

(解析実行画面のスクリーンショットを添付しております。)

該当のソースコード

# 1. 必要なライブラリの読み込み
import pandas as pd
import statsmodels.formula.api as smf
import statsmodels.api as sm
from matplotlib import pyplot as plt

i = 0

# 2. 使用するデータの読み込み
df = pd.read_csv("otehon data/trainmoji.csv", encoding="shift-jis")

test =  df.iloc[[i]].copy() #testにi番目のデータを代入
train = df.drop(test.index) #trainに残りのデータを代入

# 3. smf.glmで使うformula(線形予測子)とfamily(確率分布)を設定する
trainY = train['y']          # trainデータの応答変数にお弁当の売り上げyを設定

trainX = train[['temperature']] # trainデータの説明変数にtemperatureを設定
family = sm.families.Poisson() #確率分布はポアソン分布
trainX = sm.add_constant(trainX) #切片項の追加

# 4. 先ほどの設定値を使って一般化線形モデルを作成
model = sm.GLM(trainY, trainX, family=family)

# 5. 作成したモデルを学習させる
result = model.fit()

testX =  test[['temperature']].copy() #testデータの説明変数にtemperatureを設定
testX['const'] = 1.0 #切片項の追加

pred = result.predict(testX) #testデータをモデルに代入
test['pred'] = pred
test

補足情報（FW/ツールのバージョンなど）

解析実行画面のスクリーンショットを添付しております。

Comments

[jbpb0]

画像のデータは、質問者さんが作られたものでしょうか？
それとも、SIGNATEのコンペのデータの一部でしょうか？
もし後者なら、一部であっても、コンペに参加してない第三者に公開するのは、SIGNATEの許可が要ると思います

[jbpb0]

ググったら、このデータの一部を公開してる方がたくさんいました
SIGNATEが第三者への公開可としてるのですかね？？
もしそうでしたら、すみません

[masabassii94]

すみません公開可かどうかわからないので、csvの画像は削除しました。

Answer 1

trainXとtestXで、temperatureとconstの順番が逆になってるのが原因です

print(trainX)
print(testX)

そのため、result.predict(testX)では本来このような計算をすべきなのに、

print(np.exp(result.params['temperature']*testX['temperature']+result.params['const']*testX['const']))

実際はtestX['temperature']とtestX['const']が逆に使われて、このような計算をしています

print(np.exp(result.params['temperature']*testX['const']+result.params['const']*testX['temperature']))

無理やり順番を逆にしたら直りますが、

print(result.predict(pd.concat([testX['const'], testX['temperature']], axis=1)))

sm.add_constant()で切片を追加した後にtrainとtestに分けたら順番が一致するはずなので、そんな強引なことをしなくても済むでしょうね

Comments

[jbpb0]

https://teratail.com/questions/276676
の回答のコメントにも、同じこと(trainXとtestXで順番が違う)が書かれてましたよね
現象(予測値がとんでもなく大きくなる)も同じなのだから、上記から類推できたのではないですか?

[masabassii94]

ありがとうございました