深層強化学習(方策ベースと応用):A3C・PPO・RLHF
行動を直接に選ぶ方策ベースの深層強化学習と、その実世界への応用を学びます。基礎層では、価値ベースとの違いと応用の広がりをつかみます。深掘り層では、A3C・PPO のしくみ、大規模言語モデルの調整に使われる RLHF、OpenAI Five やアルファスターの応用、そして sim2real・ドメインランダマイゼーション・オフライン強化学習・残差強化学習・状態表現学習・報酬成形・マルチエージェント強化学習という現場の工夫までを説明できるようになります。