VGG

深さが精度に与える影響を調べたネットワーク

VGGは、Simonyan と Zisserman が2015年のICLRで発表した論文 Very Deep Convolutional Networks for Large-Scale Image Recognition で示された、畳み込みニューラルネットワークの構成群です。論文の問いは、大規模な画像認識で畳み込みネットワークの深さが精度にどう影響するかでした。

著者らは、非常に小さい3x3の畳み込みフィルタを使う構成を固定したうえで、層の数だけを増やしたネットワークを順に評価しました。その結果、重み層を16〜19層まで深くすると、それまでの構成より精度が大きく上がると報告しています。

3x3フィルタだけを全体で使う設計

それ以前の研究では、最初の畳み込み層に比較的大きな受容野を使っていました。例として論文は、ストライド4の11x11や、ストライド2の7x7を挙げています。VGGはこれに対して、ネットワーク全体で3x3の受容野だけを使い、入力の全ピクセルでストライド1の畳み込みを行います。

3x3を積み重ねると何が得られるか

間にプーリングを挟まずに3x3の畳み込み層を2層重ねると、実質的な受容野は5x5になります。3層重ねると7x7になります。では、7x7の層を1層置く代わりに3x3の層を3層重ねると、何が得られるのでしょうか。論文は利点を2つ挙げています。

1つ目は非線形性です。7x7の層1層なら非線形の活性化(ReLU)は1回ですが、3x3を3層重ねると3回入ります。そのため、識別に使う関数の表現力が高まります。

2つ目はパラメータ数です。入力と出力のチャネル数をどちらもCとすると、3x3を3層重ねた場合の重みは3x(3^2 x C^2) = 27C^2 個です。7x7の層1層では 7^2 x C^2 = 49C^2 個が必要で、3層重ねた場合より81%多くなります。つまり、同じ7x7の受容野を、より少ないパラメータで実現できます。

構成AからEまでの違い

論文では、構成AからEまで複数のネットワークを比べています。どの構成も同じ設計方針に従っており、違いは深さだけです。最も浅い構成Aは重み層が11層(畳み込み層8層と全結合層3層)、最も深い構成Eは19層(畳み込み層16層と全結合層3層)です。

入力は224x224のRGB画像です。3x3の畳み込み層とmax pooling層を繰り返し、最後に全結合層を3つ(FC-4096、FC-4096、FC-1000)とソフトマックスを置きます。畳み込み層のチャネル数は少なめで、最初の層の64から、max poolingを通るたびに2倍になり、64、128、256、512と増えて512で止まります。パラメータ数は構成AからEで133M〜144M程度です。

ILSVRC2014での成績

この研究の知見は、ImageNet Challenge 2014(ILSVRC2014)への著者らの応募の基礎になりました。著者らのチームは、ローカリゼーション部門で1位、分類部門で2位になりました。

押さえておきたい要点

VGGで押さえておきたいのは、次の3点です。大きなフィルタを使わず3x3だけを積み重ねたこと。重ねることで広い受容野を得ながら、非線形性が増え、パラメータが少なくて済むこと。層の数を16〜19層まで増やすことで精度が上がると示したことです。構成が単純で、違いは深さだけなので、深さの効果を比べやすい構成になっています。