不変性の獲得

位置が少しずれても出力が変わらない性質

画像に写った対象は、撮り方によって数画素ぶん上下左右にずれます。ずれただけで中身は同じなのに、ネットワークの出す値が大きく変わってしまうと、同じものを同じと扱えません。不変性の獲得とは、入力が少し動いても変わらない表現をネットワークが持つようになることを指します。ここで扱うのは、平行移動に対する不変性です。平行移動のことを並進と呼ぶので、並進に対する不変性とも言います。

イアン・グッドフェロー(Ian Goodfellow)らの教科書「Deep Learning」(2016年)の第9章は、並進に対する不変性を次のように説明しています。入力を少しだけ並進させても、プーリングされた出力の大部分の値が変わらないこと、という説明です。全部の値が変わらないとは言っていない点に注意してください。

プーリングがこの性質を生む仕組み

畳み込みニューラルネットワークでは、畳み込み層が画像の各位置について、ある特徴がどれだけ強く現れているかを数値で出します。プーリングは、ある位置の出力をその近くの出力をまとめた1つの値で置き換える処理です。代表的なものに、近くの範囲の最大値を取る最大値プーリングがあります。

近くの範囲をまとめて1つの値にするので、強い反応が範囲の中で少し動いても、まとめた値は同じままになりやすくなります。これが、プーリングによって並進に対する不変性が得られる理由です。

最大値プーリングで確かめる数値例

横一列に並んだ6マスの値を考えます。値は架空のもので、畳み込み層が出した特徴の強さだと考えてください。ここに幅3マスの最大値プーリングを1マスずつずらしながら当てます。範囲は1〜3マス目、2〜4マス目、3〜5マス目、4〜6マス目の4つなので、出力は4つです。

ずらす前の入力は、左から 0.1、0.9、0.2、0.1、0.3、0.2 です。4つの範囲の最大値は、順に 0.9、0.9、0.3、0.3 になります。

次に、入力全体を右へ1マスずらします。左端には新しく 0.0 が入り、右端の 0.2 は外へ出ます。入力は左から 0.0、0.1、0.9、0.2、0.1、0.3 です。4つの範囲の最大値は、順に 0.9、0.9、0.9、0.3 になります。

入力の6マスは、ずらしたことで6マスとも値が変わりました。それに対して、プーリングの出力4つのうち3つは同じ値のままで、変わったのは3番目の出力だけです。入力を1マスずらしても出力の大部分が変わらない、という説明のとおりになっています。

この例からは、失われたものも読み取れます。最初の出力が 0.9 だと分かっても、0.9 が1〜3マス目のどこにあったかは出力からは分かりません。位置の細かい情報を手放す代わりに、ずれに強い値を得ているのです。

正確な位置が要らない場面

教科書は、顔が写っているかを判定する例を挙げています。この場合、目が画素単位でどこにあるかまで知る必要はありません。顔の左側に目があり、右側にも目がある、と分かれば足ります。特徴があるかどうかが大事で、正確な位置は重要でない場面では、並進に対する不変性が役に立ちます。

位置を保つほうが大事な場面

反対に、特徴の位置そのものが判断の決め手になる場面もあります。教科書が挙げるのは角の検出です。決まった向きで交わる2本の辺として角を見つけたいときは、2本の辺が本当に交わっているかを確かめられる程度に、辺の位置を保っておく必要があります。プーリングで位置の情報をまとめすぎると、この確認ができなくなります。

したがって、不変性は多いほどよいものではありません。どの程度の位置のずれを無視してよいかは、何を見分けたいかによって決まります。