kerasを用いた多変量LSTMでmodel.fit()時にエラーが出ます

Question

前提・実現したいこと

kerasを用いて4変量の時系列データをLSTMで4つに分類しようとしていますが、
レイヤーを積み上げた後、model.fitの段階でエラーが出てしまいます。
用いているデータは為替価格の時系列データで、
学習データXは[89711(サンプル数), 4(変量の数), 36(ルックバック数)]の次元で作成し、
ターゲットYは[89771(サンプル数), 4(分類したい数、one-hotベクトル化)]の次元で作成しました。

勉強不足による初歩的な失敗なのではないかと感じてはいるのですが、
自分の情報収集能力では解決の糸口がつかめておりません。
追加で必要な情報などありましたら是非コメントを宜しくお願いします。

発生している問題・エラーメッセージ

もともと出ていたエラー
ValueError                                Traceback (most recent call last)
<ipython-input-66-94ca9aad4ee1> in <module>
----> 1 history = model.fit(X_train, Y_train, batch_size = batch_size, epochs = epochs)
～略～
D:\Anaconda3\envs\tensorflow-gpu-2\lib\site-packages\tensorflow\python\keras\engine\training_utils.py in standardize_input_data(data, names, shapes, check_batch_axis, exception_prefix)
    321                            ': expected ' + names[i] + ' to have ' +
    322                            str(len(shape)) + ' dimensions, but got array '
--> 323                            'with shape ' + str(data_shape))
    324         if not check_batch_axis:
    325           data_shape = data_shape[1:]

ValueError: Error when checking target: expected activation_5 to have 3 dimensions, but got array with shape (80739, 4)

input_shape=(None, X_train.shape[1], X_train.shape[2]) と、書き換えた場合のエラー
---------------------------------------------------------------------------
InvalidArgumentError                      Traceback (most recent call last)
D:\Anaconda3\envs\tensorflow-gpu-2\lib\site-packages\tensorflow\python\framework\ops.py in set_shape(self, shape)
    557           dim_list,
--> 558           unknown_shape)
    559     except errors.InvalidArgumentError as e:

InvalidArgumentError: Shapes must be equal rank, but are 3 and 2

During handling of the above exception, another exception occurred:
～略～
D:\Anaconda3\envs\tensorflow-gpu-2\lib\site-packages\tensorflow\python\framework\ops.py in set_shape(self, shape)
    559     except errors.InvalidArgumentError as e:
    560       # Convert to ValueError for backwards compatibility.
--> 561       raise ValueError(str(e))
    562 
    563   @property

ValueError: Shapes must be equal rank, but are 3 and 2

該当のソースコード

from tensorflow import keras
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import LSTM
from tensorflow.keras.layers import Activation, Dense, Dropout, Flatten
from tensorflow.keras.layers import Conv2D, MaxPooling2D
from tensorflow.keras import backend as K
from tensorflow.keras.initializers import he_normal
from tensorflow.keras.optimizers import Adam

# -略-

#[X.shape, Y.shape] = [(89711, 4, 36), (89711, 4)]

input_dim = num_sihyou*data_ago
output_dim = 4
num_hidden_units = 128       # 隠れ層のユニット数
batch_size = 300             # ミニバッチサイズ
epochs = 100 # 学習エポック数
learning_rate = 0.001        # 学習率

# モデルの作成
model = Sequential()
model.add(LSTM(
    num_hidden_units,
    input_shape=(X_train.shape[1], X_train.shape[2]),
    return_sequences=True))
model.add(Dropout(0.2))
model.add(Dense(output_dim)) # 分類の数
model.add(Activation("softmax"))
model.compile(loss="categorical_crossentropy", optimizer="Adam")
model.summary()
history = model.fit(X_train, Y_train, batch_size = batch_size, epochs = epochs)

試したこと

多変量LSTMについての解説がwebでなかなか見つけ出せず、
試行錯誤すらできていません。

いただいた回答やコメントをもとに試したことは以下です
・jupyter notebookカーネルの再起動
->エラー内容に変化なし
・input_shape=(None, X_train.shape[1], X_train.shape[2]) と、書き換え
->モデルのレイヤー積み上げ段階でエラーが出るようになりました。
エラー内容を追記いたします。

補足情報（FW/ツールのバージョンなど）

Windows10
python = 3.6.10
tensorflow-gpu = 1.12.0
エディタ：jupyter notebook

Comments

[meg_]

jupyter notebook使ってませんか？
モデルがおかしくなっている気がするので、カーネル再起動してもう一回頭から実行してみてください。

[cognac_n]

コメントありがとうございます。
ご指摘の通り、エディタとしてjupyter notebookを使っています。
カーネルの再起動を試してみましたが、エラーの内容は変化いたしませんでした。

Answer 1

input_shape=(**None,**X_train.shape[1], X_train.shape[2])
ではないですか？3次元のデータを期待したのに2次元のデータ（shape (80739, 4)）がやってきたぜ、
的なエラーだと思います。

↓Noneはバッチサイズらしいです（一度に学習させるサンプル数かな）
https://qiita.com/sasayabaku/items/b7872a3b8acc7d6261bf

ごめんなさい、Noneは無くてもよかったです。
↓太字の部分を変えました。変更しないと私の力では解決できませんでした。
なお、LSTMの解説を読むとXとYは同じパラメータで無いとダメな気がします。
（例：X→36日分の株価　Y→今日の株価）
分類したいならConv2Dとかの方が一般的なのかな、と思いましたがどうでしょうか？

↓は動きました。予測精度が悪い（予測値が0.6以上にならない）理由がよくわかりませんが、
学習は進んでいるようです。

from tensorflow import keras
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import LSTM
from tensorflow.keras.layers import Activation, Dense, Dropout, Flatten
from tensorflow.keras.layers import Conv2D, MaxPooling2D
from tensorflow.keras import backend as K
from tensorflow.keras.initializers import he_normal
from tensorflow.keras.optimizers import Adam

import matplotlib.pyplot as plt
import numpy as np
import math as mt

image_list=[]
temp = []
#[X.shape, Y.shape] = [(89711, 4, 36), (89711, 4)]

for i in range(89711):
    image=np.zeros(4).reshape(4,1)
    for j in range(36):
        itemp = np.array([mt.sin((j+i)*0.1)/2+0.5, mt.cos((j+i)*0.1)/2+0.5,mt.sin((j+i)*0.1+0.5)/2+0.5,mt.cos((j+i)*0.1+0.5)/2+0.5])
        image = np.append(image,itemp.reshape(4,1),axis=1)
    
    image_list.append(image[::,1:37].reshape(4,36))
    temp.append([mt.sin((36+i)*0.1)/2+0.5, mt.cos((36+i)*0.1)/2+0.5,mt.sin((36+i)*0.1+0.5)/2+0.5,mt.cos((36+i)*0.1+0.5)/2+0.5])

X_train = np.array(image_list)#(89711, 4, 36)の入力。4変量はそれぞれサイン関数とか、36点分の連続データ
Y_train  = np.array(temp)#(89711, 4）のターゲット。

print(X_train.shape)
print(Y_train.shape)

output_dim = 4
num_hidden_units = 128       # 隠れ層のユニット数
batch_size = 300           # ミニバッチサイズ
epochs = 100 # 学習エポック数
learning_rate = 0.001        # 学習率

# モデルの作成

num_hidden_units = 128
output_dim = 4

model = Sequential()
model.add(LSTM(
    num_hidden_units,
    input_shape=(X_train.shape[1],X_train.shape[2]),
    return_sequences=False))#←変更

model.add(Dropout(0.2))
model.add(Dense(output_dim)) # 分類の数

model.add(Activation("softmax"))

model.compile(loss="mean_squared_error", optimizer="Adam")#←変更
model.summary()


model.fit(X_train, Y_train,
          batch_size=batch_size,
          epochs=100,
          validation_split=0.1,
          )

#ここから予測結果確認用
lstm_data_y_predict = model.predict(X_train)

plt.figure()
plt.title('sin')
plt.plot(Y_train[:, 0], lw=2)
plt.plot(lstm_data_y_predict[:, 0], '--', lw=2)
plt.figure()
plt.title('cos')
plt.plot(Y_train[:, 1], lw=2)
plt.plot(lstm_data_y_predict[:, 1], '--', lw=2)

plt.figure()

Comments

[cognac_n]

回答ありがとうございます。
input_shape=(None,X_train.shape[1], X_train.shape[2])
としたところ、レイヤーを積み上げる段階でエラーが出ています。
エラーの内容を質問内容に追記いたします。

[tacanoviano]

回答に追記しました

[cognac_n]

回答への追記ありがとうございます。
return_sequences=False
と変更したところ、学習を進めることができました！
return_sequences=Trueは回帰分析のような、XとYが同じパラメータの
分析に使われているようですね・・・。
大変助かりました。ありがとうございます。