本文へ移動

でんすねっと

DenseNet

層同士を密に結合し、先行するすべての層の出力を次の入力として再利用する畳み込みニューラルネットワークです。

詳しい説明

DenseNetは、各層がそれ以降のすべての層に接続される、非常に密度の高い結合を持つ畳み込みニューラルネットワークのアーキテクチャです。直前の層の出力だけでなく、ネットワーク内のすべての先行層の出力を入力として受け取ることで、情報の流れを効率化します。

この構造により、勾配消失問題が緩和され、深いネットワークであってもパラメータ数を抑えつつ高い学習効率を実現します。層を重ねるごとに特徴量を再利用できるため、画像認識などの分野で、少ないパラメータ数で高い精度を発揮するモデルとして知られています。

G検定では、ResNetのような他の代表的なアーキテクチャとの違いが問われることがあります。ResNetがスキップ接続を用いて情報を伝達するのに対し、DenseNetは結合という形でより積極的に情報を伝播させる仕組みを持っているという違いを整理しておきます。

試験で問われること

G検定

  • 先行するすべての層の出力を入力として受け取る構造である。
  • 勾配消失問題を緩和し、高い学習効率を実現する。
  • ResNet等のスキップ接続を利用するモデルとの違いが問われる。