れりゅーかんすう
ReLU 関数
ニューラルネットワークの活性化関数です。入力が0以下のときは0、それ以外はそのまま出力します。勾配消失問題を防ぎ学習を効率化する手法として、G検定で代表例として問われます。
詳しい説明
ReLU関数は、ニューラルネットワークの中間層で使われる活性化関数です。入力値が0以下の場合は0を、0より大きい場合はそのまま出力します。
シグモイド関数などに比べ、勾配消失問題が発生しにくいという利点があります。そのため、深い層を持つディープラーニングモデルの学習を効率的に進められます。
G検定では、活性化関数の代表例として問われます。なぜReLUが多層のネットワークで推奨されるのか、勾配消失をいかに緩和しているのかという観点が重要です。
試験で問われること
G検定
- ReLU関数は活性化関数の一種であることを理解する。
- 勾配消失問題を緩和し、深いネットワークの学習を可能にする利点を押さえる。
- シグモイド関数と比較して、なぜReLUが選ばれるのかを理解する。