発展：敵対的攻撃と大規模言語モデルの安全性

安全性・セキュリティと悪用のレッスンの続きとして、AIをだます攻撃と、生成AIに固有の安全性の問題を掘り下げます。わずかな細工で誤らせる敵対的サンプルのしくみ、大規模言語モデルに指示を紛れ込ませるプロンプトインジェクション、制限を外そうとするジェイルブレイク、学習データを汚すデータ汚染までを整理し、なぜ完全には防ぎきれないのか、そして多重の守りという考え方までを実装のコードや攻撃の手口は扱わず、守る側の考え方に絞って説明します。