発展：Transformer の機構を分解する

Attention と Transformer のレッスンの続きとして、Transformer の内部を機構のレベルまで分解します。今の大規模言語モデルの土台を理解するために書いています。トークン埋め込みと位置符号、スケール付き内積による自己注意、マルチヘッド、フィードフォワード層、残差結合と層正規化、エンコーダとデコーダ、注意のマスク処理、そして語彙上の確率分布までを数式の意味を言葉で補いながら追います。実装のコードは扱わず、なぜそう作るのかに絞ります。