質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
86.12%
Keras

Kerasは、TheanoやTensorFlow/CNTK対応のラッパーライブラリです。DeepLearningの数学的部分を短いコードでネットワークとして表現することが可能。DeepLearningの最新手法を迅速に試すことができます。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

解決済

LSTMで多層を実装したい

ice_Deep
ice_Deep

総合スコア25

Keras

Kerasは、TheanoやTensorFlow/CNTK対応のラッパーライブラリです。DeepLearningの数学的部分を短いコードでネットワークとして表現することが可能。DeepLearningの最新手法を迅速に試すことができます。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

2回答

0グッド

1クリップ

14815閲覧

投稿2019/04/22 02:13

pythonでLSTMの行う際に、隠れ層を多層にしたいです。

1層でのプログラムなら動いたのですが、二層にするとエラーが発生します。

Python

1 2 3model = Sequential() 4input_shape=(max_len, n_in) 5 6model.add(LSTM(n_hidden, kernel_initializer=weight_variable, input_shape=input_shape)) 7model.add(Dropout(0.5)) 8 9model.add(LSTM(n_hidden, kernel_initializer=weight_variable)) 10model.add(Dropout(0.5)) 11 12model.add(Dense(n_out, kernel_initializer=weight_variable)) 13model.add(Activation('linear')) 14 15optimizer = Adam(lr=0.001, beta_1=0.9, beta_2=0.999) 16model.compile(loss="mse", optimizer=optimizer) 17 18epochs = 100 19batch_size = 64 20 21history = model.fit(X_train, Y_train, 22 batch_size=batch_size, 23 epochs=epochs, 24 validation_data=(X_val, Y_val), 25 callbacks=[lr_decay]) 26

ValueError: Input 0 is incompatible with layer lstm_12: expected ndim=3, found ndim=2

どこがいけないか教えていただきたいです。

以下のような質問にはグッドを送りましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

グッドが多くついた質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

下記のような質問は推奨されていません。

  • 間違っている
  • 質問になっていない投稿
  • スパムや攻撃的な表現を用いた投稿

適切な質問に修正を依頼しましょう。

回答2

2

ベストアンサー

1層目のLSTM、

model.add(LSTM(n_hidden, kernel_initializer=weight_variable, input_shape=input_shape))

model.add(LSTM(n_hidden, kernel_initializer=weight_variable, input_shape=input_shape, return_sequences=True))

にしてみてください。

https://keras.io/ja/layers/recurrent/#lstm

出力系列の最後の出力を返すか,完全な系列を返すか.

Falseだと1層目のLSTMが最後の出力だけしか返しません。

投稿2019/04/22 02:52

quickquip

総合スコア10419

sato, amanoese👍を押しています

良いと思った回答にはグッドを送りましょう。
グッドが多くついた回答ほどページの上位に表示されるので、他の人が素晴らしい回答を見つけやすくなります。

下記のような回答は推奨されていません。

  • 間違っている回答
  • 質問の回答になっていない投稿
  • スパムや攻撃的な表現を用いた投稿

このような回答には修正を依頼しましょう。

回答へのコメント

ice_Deep

2019/04/22 04:27

解決しました! ありがとうございます

1

公式ドキュメントのRNNによると、以下のようになっています。

入力のshape
shapeが(batch_size, timesteps, input_dim)の3階テンソル.

出力のshape
return_stateの場合:テンソルのリスト.最初のテンソルが出力になります.残りのテンソルは最終状態で,それぞれのshapeは(batch_size, units)です.
return_sequencesの場合:shapeが(batch_size, timesteps, input_dim)の3階テンソル.
それ以外の場合:shapeが(batch_size, input_dim)の2階テンソル.

従って、以下のようになります。

  • 入力は(max_len, n_in)ではなく、(バッチ数, max_len, n_in)とする必要がある
  • LSTM層にreturn_sequences=Trueを指定する必要がある

投稿2019/04/22 02:48

編集2019/04/22 12:55
fiveHundred

総合スコア9043

temps1101👍を押しています

良いと思った回答にはグッドを送りましょう。
グッドが多くついた回答ほどページの上位に表示されるので、他の人が素晴らしい回答を見つけやすくなります。

下記のような回答は推奨されていません。

  • 間違っている回答
  • 質問の回答になっていない投稿
  • スパムや攻撃的な表現を用いた投稿

このような回答には修正を依頼しましょう。

2019/04/22 12:26依頼された後にこの回答は修正されています

こちらの回答が他のユーザーから「過去の低評価」という指摘を受けました。

回答へのコメント

ice_Deep

2019/04/22 04:29

つまり今のだとtime step と バッチ数が混ざっていてまずい状態ということですか? runすると動いて、バッチ数を入れるとエラーが起こってしまいます. エラー内容 Input 0 is incompatible with layer lstm_1: expected ndim=3, found ndim=4
ice_Deep

2019/04/22 04:29

バッチ数を入れないと動くという意味です!
fiveHundred

2019/04/22 12:54

てっきりバッチサイズを考慮していないと思い込んでいました。すいませんでした。

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
86.12%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

Keras

Kerasは、TheanoやTensorFlow/CNTK対応のラッパーライブラリです。DeepLearningの数学的部分を短いコードでネットワークとして表現することが可能。DeepLearningの最新手法を迅速に試すことができます。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。