局所最適解

最適化問題において、全体の中で最も良い解（大域最適解）ではないが、その周辺で見るとこれ以上改善しない解のことです。

深層学習では、学習の過程で損失関数の値がこの局所的な窪みにはまり込み、モデルがそれ以上最適化されなくなる現象が起きます。勾配降下法などの手法において問題になりやすい性質です。

G検定では、学習が停滞する原因として問われます。モメンタムを使って勢いで窪みを飛び越えたり、学習率を調整したりといった対策が重要です。最適化の難しさを理解する上で必須の知識です。