びーぴーてぃーてぃー

BPTT

Backpropagation Through Time

時系列データを扱うリカレントニューラルネットワークを学習させるための手法です。

詳しい説明

BPTTは、リカレントニューラルネットワーク（RNN）を学習させるために用いられる誤差逆伝播法の一種です。時系列データを扱うRNNにおいて、ネットワークを時間軸方向に展開してから誤差を伝播させるため、時間を遡って学習するという意味で名付けられました。

RNNは過去の情報を保持する仕組みですが、時間ステップが長くなると誤差が過去に遡る過程で消えてしまう勾配消失問題が発生しやすくなります。BPTTは、このRNNの学習を計算可能にするために、時間を展開してそれぞれのステップで勾配を計算する手順をとります。

G検定では、RNNの学習の仕組みとして重要です。特に、時間軸方向に展開して学習するという点や、長い時系列データを扱う際に勾配消失問題が起きるという課題とセットで記憶しておくことがポイントです。