シグモイド関数

シグモイド関数は、ニューラルネットワークで使われる活性化関数の一種です。入力を0から1の範囲に圧縮する性質を持ち、S字型の滑らかなカーブを描く非線形関数です。

以前の多層ニューラルネットワークでは、隠れ層の活性化関数として頻繁に利用されていました。しかし、層が深くなると誤差逆伝播法において勾配が極めて小さくなる「勾配消失問題」を引き起こしやすいという欠点があります。

そのため、現代のディープラーニングでは、ReLUなどの他の活性化関数が推奨されています。G検定では、活性化関数の歴史的な変遷と、勾配消失問題との関連性で問われます。