質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Q&A

解決済

1回答

2235閲覧

LSTMにおいてpeep hole(覗き穴結合)が必要となる理由

退会済みユーザー

退会済みユーザー

総合スコア0

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

0グッド

0クリップ

投稿2019/03/05 13:01

編集2019/03/14 11:37

LSTMのモデルを学んでいて、覗き穴結合という仕組みに出会ったのですが、
覗き穴結合があると、入力ゲート、出力ゲート、忘却ゲートの活性化前の値に、
それぞれ順にCECの値c(t-1)、c(t)、c(t-1)が重みとともに加算されることは式から
理解しました。

ではなぜCEC(memory cell)の値を参照する必要が出てくるのでしょうか。
覗き穴結合がないとどんな不都合があるでしょうか。

詳しい方、ご教授頂けないでしょうか。
どうぞ宜しくおねがいいたします。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

単純に、使える情報は多いほうが得だと思うので、特に疑問は抱いていなかったのですが、
考えてみると具体的にいつ役立つのか気になってきたので、せっかくなので「peephole connection paper」で検索して出てきた こちらの論文 のAbstractを読むと

We find that LSTM augmentedby “peephole connections” from its internal cells to its multiplicative gates can learn the fine distinction between sequences of spikes spaced either 50 or 49 time steps apart without the help of any short training exemplars.

Without external resets or teacher forcing ,our LSTM variant also learns to generate stable streams of precisely timed spikes and other highly nonlinear periodic patterns.

This makes LSTM a promising approach for tasks that require the accurate measurement or generation of time intervals.

というので、時間の僅かな差を区別する時に役立つようですね。

投稿2019/03/22 19:00

編集2019/03/22 19:04
ikadzuchi

総合スコア3047

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問