#Attentionが分からない
自己注意はkey,value,queryがすべてエンコーダの一つ下の隠れ層から来るとよく説明されていますがそれは同じものをkey,value,queryとして代入して使うという意味なのでしょうか?それとも別のもの別のものなのでしょうか。
またソースターゲット注意についてもkey,valueはエンコーダからqueryはデコーダからくると説明されますが、これについても同様に教えていただきたいです。
見当違いなことを聞いているかもしれませんが何卒よろしくお願いします。
具体例を用いて説明していただけるとうれしいです。
Ryobot様の解説記事
あなたの回答
tips
プレビュー