NNでの時系列データ予測。出力が１ステップほどずれている。

Question

NNで時系列データを予測しようとしています。予測値を出力して観測値と照らし合わせてみると１ステップほどずれている（遅れている）ように思えます。時刻tでの入力に対して時刻t+1のラベルを付けていて、時刻tの値からt+1の値を予測したいと思っております。しかし思ったように結果が出ず原因がわかりません。ご教授願います。

def supervise(data):   #訓練データ作成：時刻tでの入力に対して時刻t+1のラベルを付けている
    X = data.iloc[:-1, :]
    y = data.iloc[1:, 1]
    return X, y

X, y = supervise(df)


#%%
from sklearn.model_selection import train_test_split
def split_train_test(X, y):
    X_train, X_val, y_train, y_val = train_test_split(X, y, test_size = 0.1, shuffle = False)
    return X_train, X_val, y_train, y_val

X_train, X_val, y_train, y_val = split_train_test(X, y)

#%%
from sklearn.preprocessing import MinMaxScaler
def scale(X_train, X_val, y_train, y_val):
    #change type
    X_train = X_train.astype(np.float32)
    X_val = X_val.astype(np.float32)
    y_train = y_train.astype(np.float32)
    y_val = y_val.astype(np.float32)



    #scale inputs
    sclr = MinMaxScaler()
    X_train['SS'] = sclr.fit_transform(X_train['SS'].values.reshape(-1,1))
    X_train['SR'] = sclr.fit_transform(X_train['SR'].values.reshape(-1,1))
    X_val['SS'] = sclr.fit_transform(X_val['SS'].values.reshape(-1,1))
    X_val['SR'] = sclr.fit_transform(X_val['SR'].values.reshape(-1,1))
    #scale outputs
    y_train = sclr.fit_transform(y_train.values.reshape(-1,1))
    y_val = sclr.transform(y_val.values.reshape(-1,1))

    return X_train, X_val, y_train, y_val

X_train, X_val, y_train, y_val = scale(X_train, X_val, y_train, y_val)
X_train


y_train

#%%
n_inputs = 2
n_outputs = 1
n_neurons = 300

X = tf.placeholder(shape = [None, n_inputs], dtype = tf.float32)
y = tf.placeholder(shape = [None, n_outputs], dtype = tf.float32)

he_init = tf.contrib.layers.variance_scaling_initializer()

hidden1 =  tf.layers.dense(X, n_neurons, activation = tf.nn.relu, kernel_initializer = he_init)
logits = tf.layers.dense(hidden1, n_outputs)

loss = tf.reduce_mean(tf.square(logits - y))
optimizer = tf.train.AdamOptimizer(learning_rate = 0.001)
training_op = optimizer.minimize(loss)

init = tf.global_variables_initializer()

saver = tf.train.Saver()

n_iterations = 1500


with tf.Session() as sess:
    init.run()
    for iteration in range(n_iterations):
        sess.run(training_op, feed_dict = {X : X_train, y : y_train})
        if iteration % 100 == 0:
            save_path = saver.save(sess, '/tmp/nn_300.ckpt')
            train_mse = loss.eval(feed_dict = {X : X_train, y : y_train})
            val_mse = loss.eval(feed_dict = {X : X_val, y: y_val})
            print(iteration, '\ttrain_MSE', train_mse, '\tval_mse', val_mse)

with tf.Session() as sess:
    saver.restore(sess, '/tmp/nn_300.ckpt')
    y_pred = sess.run(logits, feed_dict = {X : X_val})


plt.figure(figsize=(8, 8))
plt.plot(y_pred, label = 'pred')
plt.plot(y_val, label = 'true')
plt.xlabel('Time[h]')
plt.ylabel('Grobal Solar Radiation[W/m^2]')
plt.legend()
plt.savefig('nn_10_prediction.png')
plt.show()

Comments

[quickquip]

グラフを書いているコードが載ってないような気がしますが

[Dyn.Mat.Mec]

追記しました。

Answer 1

そもそも前のステップのyがXに入っていませんか？

モデルでの推定値と、前ステップのyの値と比べて、どちらがスコアがいいのですか？

またグラフは何をプロットしていますか？
テストデータだけですか？教師データとテストデータを合わせたものですか？

Comments

[Dyn.Mat.Mec]

回答ありがとうございます。
時刻tのデータから時刻t+1の日射量を予測したいため、入力が時刻tの日射量に対しての教師データは時刻t+1の日射量です。この時刻t+1の教師データの値は次ステップの入力Xに入って時刻t+2の日射量を予測するための入力になっています。これに問題点があるのでしょうか。グラフはテストデータに対しての予測値と観測値のみプロットしました。

[Dyn.Mat.Mec]

テストデータの入力を予測したい時刻の2ステップ前のデータにするとズレがなくなりました。しかし1ステップ前のデータから予測するように訓練したのに2ステップ前からのデータでないとずれるのがわかりません。

[Dyn.Mat.Mec]

上記の2ステップ前のデータを入力するとズレがなくなるというのは誤りでした。

[mkgrei]

以前に似た質問に答えたことがあります。
https://teratail.com/questions/118765

結論から言うと、多分何も学習していません。
そのモデルでは前日の値を繰り返すほうがスコアが高い可能性すらあります。

[Dyn.Mat.Mec]

その可能性が高そうです。つまりパターン認識が出来ず1ステップ前のデータを出力する方が損失が小さくなると学習したという認識でいいですか？
またこの現象の解決方法として入力データ数を増やす、入力する特徴量を増やすというのはありでしょうか？

[Dyn.Mat.Mec]

https://teratail.com/questions/11876を拝見したのですが、解決方法として差分を予測するとあります。「差を一度計算してから、その相関を消すことによって正しいモデルになります。」をもう少し解説していただけるとありがたいです。時刻tの値を予測したい場合は時刻t-1と時刻tの値の差を取りその差を予測するようなモデルを作り差を予測した後にt-1の値からtを算出するということでしょうか。

[mkgrei]

いつでもサンプル数が増えて、特徴量が増えると改善の可能性があります。
ただ今の現状に特別に有効かと言われると、そうではないように思います。
エラーというものを考えた際に、絶対誤差と相対誤差があります。
今のケースは消しうる大きな相対誤差を消さずに保持していることに問題があります。

> 差を一度計算してから、その相関を消すことによって正しいモデルになります。
についてはおっしゃる通りで正しいと思います。
z_i = y_i+1 - y_i
を求めてから、zに対して学習を行うべきいというものです。