そーすたーげっとあてんしょん
Source-Target Attention
エンコーダー側の出力とデコーダー側の入力の間の関係性を計算するAttentionです。翻訳タスクで、翻訳元のどの単語が今翻訳している単語と対応しているかを探るために使用されます。
詳しい説明
Seq2Seqモデルなどの encoder-decoder 構造において、エンコーダー側の出力(Source)とデコーダー側の入力(Target)の間の関係性を計算するAttentionです。翻訳タスクにおいて、翻訳元のどの単語が、今翻訳している単語と対応しているかを探るために使用されます。
試験で問われること
G検定(ジェネラリスト検定)
- 翻訳モデルにおける対応付けの仕組みとして理解します。
- エンコーダーとデコーダーの連携に用いられます。