本文へ移動

えるえすてぃーえむ

LSTM

LSTM = Long Short-Term Memory

リカレントニューラルネットワークの一種で、長期的な情報の依存関係を扱える構造です。

詳しい説明

LSTMは、リカレントニューラルネットワーク(RNN)の一種で、時系列データや自然言語などの長期的な依存関係を学習できるように設計された構造です。通常のRNNでは、時系列が長くなると古い情報を忘れてしまう問題がありました。

仕組みとして、情報を保持、忘却、出力するためのゲート機構を備えています。これにより、必要な情報を長い時間保持し、不要な情報は忘れることで、勾配消失問題を回避しつつ、長期的な文脈を捉えることが可能になりました。

G検定では、RNNの進化版として位置づけます。RNNで生じる勾配消失問題の解決策としてLSTMが提案されたという歴史的文脈と、内部のゲート構造が何をしているのかという概念の結びつきが問われます。

試験で問われること

G検定

  • RNNの一種であり、長期記憶が可能。
  • ゲート構造により勾配消失問題を回避。
  • 時系列データや自然言語処理で利用される。