[Python] 時系列分析（ランダムフォレスト）がしたいです－その２－

Question

時系列分析（ランダムフォレスト）で将来の人数を予測しています。

手元のデータ集計期間が短いため、ある特定日を用いて翌日、翌々日の人数を予測したものを学習データ、実際の人数をテストデータとして予測を行いたいです。

実現したいことを達成するためのコード修正についてご指摘頂けないでしょうか。

実現したいこと
① ある日で翌日、翌々日の人数を予測（データを増やす）
② ①を用いて将来的な人数を予測（将来の予測）

色々試行錯誤※しているのですがどうしても最後までたどり着きません。
よろしくお願いいたします。

%matplotlib inline
import matplotlib
import matplotlib.pyplot as plt
import numpy as np
import pandas as pd
from sklearn.linear_model import LinearRegression
from sklearn.tree import DecisionTreeRegressor
from sklearn.ensemble import RandomForestRegressor
from sklearn.model_selection import GridSearchCV
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_squared_error

dataset = pd.read_csv('file_0627.csv')
dataset.head()

target_col = 'patient'
exclude_cols = ['date','patient','14day_exclusion_rate']
feature_cols = []
for col in dataset.columns:
    if col not in exclude_cols:
        feature_cols.append(col)

y = dataset[target_col]
X = dataset[feature_cols]

X_train_val, X_test, y_train_val, y_test = \
    train_test_split(X, y, test_size=0.3, random_state=1234) #分割1

X_train, X_val, y_train, y_val = \
    train_test_split(X_train_val, y_train_val, test_size=0.3, random_state=1234)　#分割2

rf = RandomForestRegressor(random_state=1234)
rf.fit(X_train[X_vars], y_train[Y_vars])

for fday in pred["date"]:
    idx = pred[pred["date"] == fday].index[0]
    pred_value = rf.predict(pred.loc[pred["date"]==fday, X_vars].values.reshape(1,-1))

    for i in range(len(Y_vars)):
        prefix = re.match(r'(Date_\w+)_[0-9]+', Y_vars[i])
        target_list = prefix[1]

        # Date⁺1
        prefix = re.match(r'(Date_\w+)_[0-9]+', Y_vars[i])
        target_var1 = target_list + "_1"
        pred.loc[pred["date"]==fday+datetime.timedelta(days=1), target_var1] = pred_value[0][i]

        # Date⁺2
        target_var2 = target_list + "_2"
        pred.loc[pred["date"]==fday+datetime.timedelta(days=1), target_var2] = pred.loc[pred["ds"]==fday, target_var1].values[0]

y_train = rf.predict(X_val)
rf_mse = mean_squared_error(Y_val, y_train)
print('Random Forest RMSE: ', np.sqrt(rf_mse))

使用している特徴量
'date', 'patient', '6day_exclusion_rate', '14day_exclusion_rate'

※困っていること
実現したいこと①の箇所　
rf.fit(X_train[X_vars], y_train[Y_vars])以降の訂正方法が分からないです。

Comments

[meg_]

「たどり着きません」を具体的に説明できますか？（質問に追記してください）

[R.Shigemori]

実現したいことを整理したほうがいいかと思います。
③のランダムフォレストは何を実現するモデルなのでしょうか。②で将来の人数を予測するとなっているので、別のことを実現したいものと理解されます

[mango55]

本文中修正しました。よろしくお願いします。

[meg_]

>具体的には[X_vars] is not defined　とエラーとなります。

X_train[X_vars]で特徴量を指定します。X_trainはpandas.DataFrameでしょうか？ であれば特徴量として使用したいDataFrameの列を指定しましょう。

[mango55]

すみません、書き漏れましたが特徴量を’patient’としてエラーになりました。おそらく特徴量が間違っているのだと思いますが、rf.fit(X_train[X_vars]~、以降の箇所をどう修正したらいいか分からず（[X_vars]にどの特徴量を入れたらいいか）分からない状態です。

[kabayan55]

y = dataset[target_col]
X = dataset[feature_cols]
はsplitより前でないと動かないと思います。Pythonスクリプトだと、そのままコピペでいいのですが、もしJupyterを使っていらっしゃいましたら、最初からRunし直してエラーが出ないことを確認してからコピペした方がいいと思います。
前の質問にも書いてますが、[X_vars], [Y_vars]部分消したら動くと思います。

前の質問で、KeyErrorは解決したと思ったので、他の部分に関する質問に関しては分けて欲しいと書いたのですが、解決していなかったのなら、前の質問でよかったと思います。
https://teratail.com/questions/272906

[meg_]

X_train.columnsでカラム一覧が取得できますので、その中からカラムを選択すればKeyErrorは出ないはずです。（とりあえずの対処となります）

[Penpen7]

KeyErrorは解決したとのことですが、コードがそのままではエラーが出てしまいます。jupyter notebookで一つにセルをまとめたのち、Kernel->Restart & Run Allで結果を全て消去するかjupyter notebookを起動し直します。一つにまとめたセルのみ実行して、エラーが出ていないことを確認してからコピペで投稿してください。

[mango55]

kabayan55さん、meg_さん、Penpen7さん
度々お返事頂きありがとうございます。
R.shigemoriさんから全体的なご指摘を頂きましたので再度考え直したいと思います。ご丁寧にありがとうございました。

[Penpen7]

このコードは何かサンプルコード等を参考にしながら書いているのでしょうか？
もしあれば、お示しください。

[mango55]

サンプルコードです。対戦相手の試合結果予測？と漠然と聞いていますが、詳しくは分かりません。これを活用できるのではとのことでコードの理解をしようとしたのですがところどころ分からないところがありどのように修正すべきか分からない状態です。

reg = RandomForestRegressor()
reg.fit(X=train[X_vars], y=train[Y_vars])
for fday in pred["days"]:
idx = pred[pred["days"] == fday].index[0]
pred_value = reg.predict(pred.loc[pred["days"]==fday, X_vars].values.reshape(1,-1))
for i in range(len(Y_vars)):
prefix = re.match(r'(GAME_\w+)_[0-9]+', Y_vars[i])
target_game = prefix[1]
#available or not
available_var = target_game + "_available"
availavle_flag = pred.loc[pred["days"]==fday, available_var].values
# GAME_x_0
if availavle_flag > 0:
pred.loc[pred["days"]==fday, Y_vars[i]] = pred_value[0][i]
else:
pred.loc[pred["days"]==fday, Y_vars[i]] = 0
# GAME_X_1
prefix = re.match(r'(GAME_\w+)_[0-9]+', Y_vars[i])
target_var1 = target_game + "_1"
pred.loc[pred["days"]==fday+datetime.timedelta(days=1), target_var1] = pred_value[0][i]
# GAME_X_2
target_var2 = target_game + "_2"
pred.loc[pred["days"]==fday+datetime.timedelta(days=1), target_var2] = pred.loc[pred["days"]==fday, target_var1].values[0]

よろしくお願いいたします。

Answer 1

実装内容に対する説明が不足しているので、想像で補いながらのコメントになりますので正しくない部分があることを了解下さい。

rf.fitの部分ですが、X_trainとy_trainから学習させる部分なので各々の[]は不要です。X_train,y_trainともに前段で必要なカラムを取り出しています。

for fdayの部分ですが、predがないので動きません。たぶん、予測対象の日付が入った変数と思いますが、前段で作成する必要があります。なお、rf.fitで学習させたモデルは特定の日において入手できている説明変数からpatientを予測するというものです。したがって、将来のpatientを予測するには将来の説明変数がわかっていることが前提になります。質問に記載のコードには将来の説明変数を予測する部分がないように思います。もしかしたらpredの生成過程で考慮済みなのかもしれません。その場合はfor文による繰り返しをせず、rf.pedict(predの説明変数)で将来の予測が可能です。

時系列モデルは、予測対象が時間の流れで推測できると仮定するところから始まります。よってpatientは当日を含む過去の値から明日の値が予測可能と仮定しなければなりません。しかしながら、質問に記載のコードによると、patientは外的変数によって決定されると捉えているので、時系列モデルは合わないように思います。外的変数を考慮しつつ時系列モデルを構築するのであれば、状態空間モデルあたりを活用したほうがいいと思います

Comments

[mango55]

R.shigemoriさん
ご指摘ありがとうございます。
>rf.fitの部分ですが、X_trainとy_trainから学習させる部分なので各々の[]は不要です。
とのことですが、rf.predict(pred.loc[pred["date"]==fday, X_vars].values.reshape~の部分に”X_vars”があり、これを定義しないとエラーとなってしまうのですが、今回の目的（人数予測）だとX_varsは不要ですか？

また、forの中のpredictでpatientの人数を予測しながらループで増やしていくと考えたのですがこの方法だとpatientの人数は予測できないのでしょうか？もしくはforの前にpatientの人数を予測してforでループしていくということなのでしょうか？

質問が多く申し訳ありませんが、よろしくお願いします。

[R.Shigemori]

X_varsの要否は、X_varsが何を意味しているかわからない上、predの内容がわからないので回答できません。

patientは説明変数によって予測されるものとしてモデルに実装されています。よって未来の説明変数が確定していない限りpatientの予測は不可能です。