損失係数が一向に減らない｜深層学習を用いた株価予測

Question

現在、ディープラーニングを用いてAPPLEの2000年から2018年の株価データを用いて2018年から2019年の株価データを予測するプログラムを作成しています。その中で学習過程で損失係数が一切下がらず、正解率が0%になってしまいました。

私自身、機械学習・深層学習経験があまりないので以下のコードは様々なサイト等を参考にして作成したものです。そこでどこを直せば損失率を下げることができ、正解率を上げることができるのかお分かりになる方がおりましたら教えていただきたいです。

いかにコードを記載します。

---

import keras
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
from pandas_datareader import data
import tensorflow as tf
from datetime import datetime

#Keras-Sequential-model
from keras.models import Sequential
from keras.callbacks import EarlyStopping
#layer
from keras.layers import Dense, Dropout, Activation
#Parameter update
from keras.optimizers import RMSprop, SGD, Adam
%matplotlib inline

#データ設定
train_start = '2010-04-01'
train_end = '2018-03-31'
test_start = '2018-04-01'
test_end = '2019-03-31'

df_train = data.DataReader('AAPL', 'yahoo', train_start, train_end)
df_test = data.DataReader('AAPL', 'yahoo', test_start, test_end)

#日時と調整終了値
past_date = df_train.index
past_price = df_train['Adj Close']
future_date = df_test.index
future_price = df_test['Adj Close']

#ディープラーニングモデル
def build_multilayer_perceptron():
  model = Sequential()
  model.add(Dense(100, input_shape=(20,)))
  model.add(Activation('relu'))
  model.add(Dropout(0.2))
  model.add(Dense(100))
  model.add(Activation('relu'))
  model.add(Dropout(0.2))
  model.add(Dense(1))
  model.add(Activation('softmax'))
  model.compile(loss='mse',
              optimizer='adam',
              metrics=['accuracy'])
  return model

#標準化
def getInputLabel(price, period=20):
  period = period
  input_tensor = []
  label_tensor = []
  for i in range(0, len(price) - period, 1):
    input_tensor.append(price.iloc[i:i + period ])
    label_tensor.append(price.iloc[i + period ])
  input_tensor = np.array(input_tensor)
  label_tensor = np.array(label_tensor)
  return input_tensor, label_tensor

#訓練用データとテスト用データ
past_tmp = past_price - past_price.mean()
past_tmp = past_tmp/past_price.std()
X_train, y_train = getInputLabel(price = past_tmp)

future_tmp = future_price - future_price.mean()
future_tmp = future_tmp/future_price.std()
X_test, y_test = getInputLabel(price = future_tmp)

earlystopping = EarlyStopping(monitor='loss', patience=5)

model = build_multilayer_perceptron()
model.summary()

#Learning
history = model.fit(X_train, y_train,
                    batch_size=20,
                    epochs=100,
                    verbose=1,
                    validation_data=(X_test, y_test),
                    callbacks=[earlystopping])

>>>
Epoch 1/100
100/100 [==============================] - 0s 2ms/step - loss: 1.9591 - accuracy: 0.0000e+00 - val_loss: 1.8511 - val_accuracy: 0.0000e+00
Epoch 2/100
100/100 [==============================] - 0s 2ms/step - loss: 1.9591 - accuracy: 0.0000e+00 - val_loss: 1.8511 - val_accuracy: 0.0000e+00
Epoch 3/100
100/100 [==============================] - 0s 2ms/step - loss: 1.9591 - accuracy: 0.0000e+00 - val_loss: 1.8511 - val_accuracy: 0.0000e+00
Epoch 4/100
100/100 [==============================] - 0s 2ms/step - loss: 1.9591 - accuracy: 0.0000e+00 - val_loss: 1.8511 - val_accuracy: 0.0000e+00
Epoch 5/100
100/100 [==============================] - 0s 2ms/step - loss: 1.9591 - accuracy: 0.0000e+00 - val_loss: 1.8511 - val_accuracy: 0.0000e+00
Epoch 6/100
100/100 [==============================] - 0s 2ms/step - loss: 1.9591 - accuracy: 0.0000e+00 - val_loss: 1.8511 - val_accuracy: 0.0000e+00
Epoch 7/100
100/100 [==============================] - 0s 2ms/step - loss: 1.9591 - accuracy: 0.0000e+00 - val_loss: 1.8511 - val_accuracy: 0.0000e+00
Epoch 8/100
100/100 [==============================] - 0s 2ms/step - loss: 1.9591 - accuracy: 0.0000e+00 - val_loss: 1.8511 - val_accuracy: 0.0000e+00
Epoch 9/100
100/100 [==============================] - 0s 2ms/step - loss: 1.9591 - accuracy: 0.0000e+00 - val_loss: 1.8511 - val_accuracy: 0.0000e+00
Epoch 10/100
100/100 [==============================] - 0s 2ms/step - loss: 1.9591 - accuracy: 0.0000e+00 - val_loss: 1.8511 - val_accuracy: 0.0000e+00

model.evaluate(X_test, y_test, verbose=0)
>>>[1.851119041442871, 0.0]
```

Comments

[meg_]

説明変数には何を設定しましたか？

[python_wakaran]

説明変数には#標準化にある関数から導くinput_tensorの値を用いています。
これは調整終了値の値を20個ごとの塊にしたものです。これは
https://rightcode.co.jp/blog/information-technology/deep-learning-stock-price-forecast-create#i-4
このサイトに用いられているものを利用したものになっています。
説明変数について指摘され、考えてみると説明変数を変えた方がいいのではと考えるようになりました。。。初学者なので上のコードについて何か至らぬ点があれば指摘していただけると幸いです。

[toast-uz]

損失率が減らないのって、標準化が不十分か、そもそもモデルが乱数性やノイズを帯びていて、学習不可能な場合かと思います。
できあがった X_train, y_train を眺めてみて、きちんと意図通りの標準化がされた数値になっており、かつそれなりに連続的な変化をしているか（激しく揺らいでいないか）をご確認ください。

[python_wakaran]

なるほど。一応標準化は以上のコードの＃訓練用データとテスト用データの部分でしている（つもり）のですが、株価の変動は連続的な変化をしているとは言いにくいので、以上の方法では株価を予測することは難しいかもしれませんね。
損失率の減少の要因大変勉強になりました。ありがとうございました。

[toast-uz]

私も、コードを見る限り、標準化はできていると思います。機械学習の質問は手元での再現が難しいので、念のため、学習させる直前のデータを見ていただくのが良いかと思い、コメントしました。
また、一次方程式等で擬似的に「キレイな」データを作って、それを入力としてみて、期待通りの学習効果が得られるかどうかを見るとよいでしょう。前処理の問題なのか学習モデルの問題なのかが、切り分けできると思います。

[python_wakaran]

なるほど。一応このコードに関して言えば、株式データなどの取得もPythonのライブラリを通して行っているので他の人がこのコードを実行しても再現性があると思います。
ご指摘通りきれいなデータで学習できるか試したところ、同様に損失関数が減らないことが確認できたので、学習モデルに原因があることが発覚しました。このような実践的な方法が知れて助かりました。ありがとうございます。もし学習モデルに原因があるとして、その解決法やヒントとなる知識をお持ちであれば教えていただけるとありがたいです。。

[toast-uz]

根本的に学習できていないので、モデルをなるべく単純化して変化をみたいですね。Dropout層は無くす。次元も最初は小さくする。あと、0中心の偏差データなのでreluの活性化は相性悪いように思います。tanhにしたいですね。
あと、問題の、20個ごとの塊で学習させているのも、いったん単純化して、1個ごとにしてみたいですね。

[python_wakaran]

なるほど。アドバイスありがとうございました。
以上のことを実践してみたいと思います。
非常に勉強になりました！

Answer 1

説明変数には#標準化にある関数から導くinput_tensorの値を用いています。

これは調整終了値の値を20個ごとの塊にしたものです。これは
https://rightcode.co.jp/blog/information-technology/deep-learning-stock-price-forecast-create#i-4
このサイトに用いられているものを利用したものになっています。

上記リンクでは最初は「Topix」を説明変数にしていますが、その後「Topix と他の株価」を説明変数にして最終的に「株価の上げ下げ」を予測しています。
質問者さんの目的変数は「APPLEの株価」ですが、

これは調整終了値の値を20個ごとの塊にしたものです

とは他の主要銘柄の株価のことですか？
であれば「他社の株価を説明変数にした機械学習では予測できなかった」という結果が出ているのではないでしょうか？もっとAPPLEに関連したデータを説明変数にすることで精度を上げることは出来るかもしれません。

ただし上記リンクにも

今回使うディープラーニングは、説明変数として過去の株価を用いるので、「テクニカル分析」を行うことになります。

ですが、過去の様々な論文で、テクニカル分析の効果がないことが実証済みです。
ですので、過度な期待はせず温かい目でご覧ください。

とありますので個別の株価予測は難しそうです。

Comments

[python_wakaran]

meg_さん回答ありがとうございます。
ここで行っていることはX_trainであれば、2000年から2018年度の調整終了値を標準化したもの
[-1.50435708, -1.49594732, -1.49244291, ..., 2.11300193,
2.06433253, 2.09834922]
を20個ごとの塊にしていく。つまり[0:20],[1:21]...としていくということを行っています。
[-1.50435708, -1.49594732, -1.49244291, ..., -1.41735343,
-1.41882175, -1.39532681],
[-1.49594732, -1.49244291, -1.48890523, ..., -1.41882175,
-1.39532681, -1.42052335],...
といった具合に。この方法は以前上げたサイトに載っていたもので、こうすることによってどのような効果があるのかは正直分かっておらず、とりあえずこういうものなんだという解釈で進めていました。
しかしサイトで行っている株価予測はおそらく過去のデータ8割を用いて学習し、残り2割を用いてその過去の株価を再現できるかということをしているのに対し、私が使用としていることは過去のデータを用いてその後の株価を予測するということなので、この方法ではできないかなと考えるようになりました。目的変数を見直した方がよいかもしれませんね。。

[meg_]

> 20個ごとの塊
というのが、20日分の株価なのか1日分の20銘柄の株価なのかは分かりませんが、現在の訓練データでlossが全く減らないのであれば訓練データが悪いのだと思います。

質問者さんの機械学習は2つのサイトの方法をミックスしたものなのですか？ どちらか一つの方法で実行してみてはどうでしょうか？

[python_wakaran]

説明不足ですみません。20日分のデータという意味でした。
そうですね。一方のものを参考にしたものではエラーが発生してしまったのでこのような2つのものを合成したものを作成しました。なので、ひとつのもので作成してみることにします。
回答ありがとうございました。

[meg_]

株価予測は非常に難しいかと思います。外的要因の影響が大きいかと思います。

[python_wakaran]

なるほど。。
参考になりましたありがとうございました。