正規化された値をLSTMによって予測が行われた後に元の系列の大きさで評価したい

Question

https://qiita.com/tizuo/items/b9af70e8cdc7fb69397f
を参考に多変量分析にLSTMを使用しました.

時系列データに対して交差検証を行いたいと思い, 以下のサイトを参考にデータを分割しました.
https://zenn.dev/megane_otoko/articles/067_time_series_pred_2nd

使用したデータは(3910, 64)のサイズです.

#やりたいこと
1列目から64列目までを入力して, 1列目の系列の予測をLSTMを使って行い, RMSEで評価する.
RMSEは訓練データ, 予測結果ともに正規化から元の系列に戻して計算したい.

#発生している問題
inverse_transformが行えていないのか, 正規化されたままのtrainPredictとinverse_transformを行った後の結果がほぼ同じ値になっている.
そのためRMSEが正規化された状態での計算となり, 非常に小さな値となってしまう.
#わからないこと
LSTMを実行した後に正規化を元に戻す方法，または手動で正規化を行い, LSTMを実行した後, 予測結果と訓練,テストデータを正規化前に戻して
RMSEを算出する方法.
#以下プログラム

#データの分割数
Fold=5

#時系列分析用の訓練用，テスト用のデータ分割

from sklearn.model_selection import TimeSeriesSplit
tscv = TimeSeriesSplit(n_splits=Fold, test_size=100)

#LSTM
from keras.models import Sequential
from keras.models import load_model
from keras.layers import Dense
from keras.layers import LSTM
from sklearn.preprocessing import MinMaxScaler
#正規化
scaler = MinMaxScaler(feature_range=(0, 1))
dataset_new = scaler.fit_transform(dataset_new)
dataset_new = pd.DataFrame(dataset_new)
dataset_new=dataset_new.loc[:,[64個のカラム, 1列目に目的変数をもってきている]]
cross_rmse2=[]
for fold, (train_index, test_index) in enumerate(tscv.split(dataset_new)):
    X_train, X_test = dataset_new.iloc[train_index], dataset_new.iloc[test_index]
    Y_train, Y_test = interpolate_rssi_dataset.iloc[train_index], interpolate_rssi_dataset.iloc[test_index]


    def create_dataset(dataset_new, look_back=1):
        dataX, dataY = [], []
        for i in range(len(dataset_new) - look_back - 1):
            xset = []
            for j in range(dataset_new.shape[1]):
                a = dataset_new.iloc[i:(i + look_back), j]
                xset.append(a)
            dataY.append(dataset_new.iloc[i + look_back, 0])
            dataX.append(xset)
        return np.array(dataX), np.array(dataY)


    look_back = 12
    trainX, trainY = create_dataset(X_train, look_back)
    testX, testY = create_dataset(X_test, look_back)

    #kerasのLSTMで受け付けられている形式に変換 .shape[0]は行数, .shape[1]は列数, .shape[2]は3次元目の長さ
    trainX = np.reshape(trainX, (trainX.shape[0], trainX.shape[1], trainX.shape[2]))
    testX = np.reshape(testX, (testX.shape[0], testX.shape[1], testX.shape[2]))

    #モデル作成
    model = Sequential()
    model.add(LSTM(4, input_shape=(testX.shape[1], look_back)))
    model.add(Dense(1))
    model.compile(loss='mean_squared_error', optimizer='adam')
    model.fit(trainX, trainY, epochs=2, batch_size=32, verbose=2)

    #検証
    trainPredict = model.predict(trainX)
    testPredict = model.predict(testX)

    print(trainPredict[:,0])
    pad_col = np.zeros(dataset_new.shape[1]-1)
    def pad_array(val):
        return np.array([np.insert(pad_col, 0, x) for x in val])

    trainPredict = scaler.inverse_transform(pad_array(trainPredict))
    trainY = scaler.inverse_transform(pad_array(trainY))
    testPredict = scaler.inverse_transform(pad_array(testPredict))
    testY = scaler.inverse_transform(pad_array(testY))
    #正規化を元に戻す
    print(trainPredict[:,0])
    trainScore = math.sqrt(mean_squared_error(trainY[:,0], trainPredict[:,0]))
    print('Train Score: %.2f RMSE' % (trainScore))
    testScore = math.sqrt(mean_squared_error(testY[:,0], testPredict[:,0]))
    print('Test Score: %.2f RMSE' % (testScore))
    cross_rmse2.append(testScore)
print(f"cross rmse2 =",np.mean(cross_rmse2))

#実行結果

Epoch 1/2
107/107 - 4s - loss: 0.1102 - 4s/epoch - 41ms/step
Epoch 2/2
107/107 - 2s - loss: 0.0303 - 2s/epoch - 23ms/step
[0.42974246 0.429881   0.43014005 ... 0.5590104  0.55925095 0.5603747 ]        #これは正規化された状態でのtrainPredict
[0.42974246 0.42988101 0.43014005 ... 0.55901039 0.55925095 0.56037468]        #これはinverseを行い正規化を元に戻したtrainPredict
Train Score: 0.14 RMSE
Test Score: 0.04 RMSE
Epoch 1/2
110/110 - 5s - loss: 0.0276 - 5s/epoch - 41ms/step
Epoch 2/2
110/110 - 2s - loss: 0.0097 - 2s/epoch - 22ms/step
[0.5084579  0.50872    0.50901794 ... 0.84188867 0.8352394  0.83327174]
[0.5084579  0.50871998 0.50901794 ... 0.84188867 0.83523941 0.83327174]
Train Score: 0.07 RMSE
Test Score: 0.14 RMSE
Epoch 1/2
113/113 - 5s - loss: 0.0299 - 5s/epoch - 41ms/step
Epoch 2/2
113/113 - 3s - loss: 0.0201 - 3s/epoch - 22ms/step
[0.42214507 0.42244956 0.42274225 ... 0.7995421  0.7988943  0.7994946 ]
[0.42214507 0.42244956 0.42274225 ... 0.79954213 0.79889429 0.79949462]
Train Score: 0.13 RMSE
Test Score: 0.13 RMSE
Epoch 1/2
116/116 - 4s - loss: 0.0435 - 4s/epoch - 38ms/step
Epoch 2/2
116/116 - 3s - loss: 0.0113 - 3s/epoch - 22ms/step
[0.45806852 0.458272   0.4584012  ... 0.803413   0.80381125 0.8031619 ]
[0.45806852 0.45827201 0.4584012  ... 0.80341297 0.80381125 0.80316192]
Train Score: 0.09 RMSE
Test Score: 0.14 RMSE
Epoch 1/2
119/119 - 5s - loss: 0.0259 - 5s/epoch - 39ms/step
Epoch 2/2
119/119 - 3s - loss: 0.0089 - 3s/epoch - 22ms/step
[0.47482297 0.47502875 0.47521576 ... 0.7998894  0.79979026 0.7996928 ]
[0.47482297 0.47502875 0.47521576 ... 0.79988939 0.79979026 0.79969281]
Train Score: 0.08 RMSE
Test Score: 0.14 RMSE
cross rmse2 = 0.11922512266093292