multivariate LSTMを行ったが、正しいかどうか判断ができません。

Question

前提・実現したいこと

非エンジニア、独学のpython初心者です。
multivariate LSTMにより血流量を予測する試みを行なっています。
血流量の他に血圧（収縮期、平均、拡張期）や脈拍、呼吸数を用いています。
1分おきの時系列データを収集し、前半8割の値から後半2割の血流量を予測しました。
学習、グラフ作成まで行い、予測精度をRMSEで計算しました。

発生している問題・エラーメッセージ

グラフを見るとRMSEがここまで低いようには思えません。
精度が正しいかどうか、正しくない場合コードのどの部分に問題があるかが判断できません。
もしわかる方がいらっしゃいましたらご指導いただければ幸いです。

該当のソースコード

import numpy as np 
import pandas as pd 
import matplotlib.pyplot as plt 
import time
from keras.models import Sequential
from keras.layers import Dense,  LSTM
from keras import metrics
from sklearn.preprocessing import MinMaxScaler
from sklearn.model_selection import train_test_split 

#データの取り込み
df = pd.read_csv('1.18min.csv')
df['time'] = pd.to_datetime(df['time'])
df

flow = np.array([df.iloc[:,1]])
sBP = np.array([df.iloc[:,2]])
mBP = np.array([df.iloc[:,3]])
dBP = np.array([df.iloc[:,4]])
HR = np.array([df.iloc[:,5]])
RR = np.array([df.iloc[:,7]])

#データをプロット
plt.figure(figsize = (10,6))
f, = plt.plot(flow[0, :])
s, = plt.plot(sBP[0, :])
m, = plt.plot(mBP[0, :])
d, = plt.plot(dBP[0, :])
h, = plt.plot(HR[0, :])
r, = plt.plot(RR[0, :])
plt.legend([f,s,m,d,h,r], ["flow", "sBP", "mBP", "dBP", "HR", "RR"])
plt.show(block=False)

#血流量のみプロット
plt.figure(figsize = (10,6))
f, = plt.plot(flow[0, :])
plt.legend([f], ["flow"])
plt.show(block=False)

#Xは血流以外、Yが血流
X = np.concatenate([sBP,mBP,dBP,HR,RR],axis=0)
X = np.transpose(X)
Y = flow
Y = Y.reshape(-1,1)
scaler = MinMaxScaler()
scaler.fit(X)
X = scaler.transform(X)
scaler1 = MinMaxScaler()
scaler1.fit(Y)
Y = scaler1.transform(Y)
X = np.reshape(X,(X.shape[0],1,X.shape[1]))

#前半8割からモデル作成
X_train = X[:848,:,:]
X_test = X[848:,:,:]
Y_train = Y[:848,:]
Y_test = Y[848:,:]
model = Sequential()
model.add(LSTM(100,activation='tanh',input_shape=(1,5),recurrent_activation= 'hard_sigmoid'))
model.add(Dense(1))

#学習　（パラメーターチューニング未）
model.compile(loss='mean_squared_error',optimizer='rmsprop',metrics = [metrics.mae])
model.fit(X_train,Y_train,epochs=200,batch_size= 1,verbose= 2)

#実測値と予測値をプロット
Predict= model.predict(X_test,verbose =1)
plt.figure(figsize=(15,10))
plt.plot(Y_test,label = 'Test')
plt.plot(Predict, linestyle="dashed", label = 'Prediction')
plt.legend(loc='best')
plt.show()

Y_train = scaler1.inverse_transform(Y_train)
Y_train = pd.DataFrame(Y_train)
Y_train.index = pd.to_datetime(df.iloc[:848,0])

Y_test = scaler1.inverse_transform(Y_test)
Y_test = pd.DataFrame(Y_test)
Y_test.index = pd.to_datetime(df.iloc[848:,0])

Predict = model.predict(X_test)
Predict = scaler1.inverse_transform(Predict)
Predict = pd.DataFrame(Predict)
Predict.index=pd.to_datetime(df.iloc[848:,0])

plt.figure(figsize=(10,6))
plt.plot(Y_train,label = 'Train')
plt.plot(Y_test,label = 'Test')
plt.plot(Predict, linestyle="dashed", label = 'Prediction')
plt.legend(loc='best')
plt.show()

#誤差計算
import math
from sklearn.metrics import mean_squared_error
testScore_RMSE = np.sqrt(mean_squared_error(Y_test, Predict))
print('Test Score: %.5f RMSE' % (testScore_RMSE))

Test Score: 4.54193 RMSE

Answer 1

データの前処理が、通常のリグレッションモデルの流儀になってしまっています。LSTMの流儀になっていません。今回の場合、「多変量LSTM」というキーワードでググると、参考になる記事がいろいろありますので、確認ください。

参考例: TensorFlow 2.x での多変量LSTMとデータの前処理

質問者様の前処理との相違点

• 参考例では、データは [サンプル数, ルックバック数, 変数数] という形式にしています。試していませんが、質問者様の形式だと、ルックバック=1、すなわち1単位時刻前のデータだけから予測しようとしているようです。
• 参考例では、目的変数（の過去情報）も、説明変数の1つとして活用しています。質問者様の形式だと、肝心の目的変数の過去情報は、一切予測に使わないことになります。

上記の2つがあわさって、参考例の方法をとれば、「少し幅を持った過去の情報から未来を予測する」「求めたい血流量（の過去データ）も予測に活用する」という動作になりますので、予測精度が高まることが期待できます。

Comments

[multinguish]

わかりやすい回答まことにありがとうございます。
concatenateにflowを追加し、lookbackを含む前処理形式に変更しました。
lookback=25でpredictionがほぼ1期前と一致し、RMSEが0.087と向上しました。
症例を集めてこまかいパラメーターの最適化をしていこうかと思います。