オートエンコーダ:圧縮して復元しながら学ぶ
入力をいったん小さくまとめてから元に戻すことで、データの特徴を学ぶしくみを学びます。基礎層では、圧縮して復元するオートエンコーダのしくみをつかみます。深掘り層では、エンコーダとデコーダの機構、積層オートエンコーダ、そしてデータを生成できる変分オートエンコーダ (VAE) や、VQ-VAE・info VAE・β-VAE といった亜種まで説明できるようになります。
この章の問題を解く
章のまとめへ- 1Self-Attention の計算のしくみPro
- 2Transformer の構造の特徴Pro
- 3AttentionとはPro
- 4自己注意とマルチヘッド注意Pro
- 5事例からTransformerの利点を判断するPro