ネオコグニトロン

提案の背景と目的

ネオコグニトロンは、Kunihiko Fukushima が1980年に Biological Cybernetics 誌に発表した論文で提案した、視覚パターン認識の仕組みのニューラルネットワークモデルです。「ネオコグニトロン」は、論文の中でこのネットワークに付けられた愛称です。

論文は、従来のパターン認識のモデルが、パターンの位置のずれや形のゆがみに影響されやすいという問題に触れ、それを解こうとしています。また、人間と同じようなパターン認識の能力を持つ神経回路網のモデルを作ることができれば、脳の神経の仕組みを理解する強い手がかりになる、という考え方を示しています。

位置に影響されない認識と学習の方法

このネットワークは「教師なし学習」によって自己組織化します。教師なし学習とは、正解のラベルを与えずに、入力データだけから規則やまとまりを学ぶ学習の方法です。自己組織化とは、外から細かく設計しなくても、入力を受けるうちにネットワークの結び付きが自ら整っていくことを指します。

学習の結果、ネットワークは刺激パターンを、形の幾何学的な類似性(ゲシュタルト)に基づいて、位置に影響されずに認識する能力を獲得するとされています。ゲシュタルトとは、部分の寄せ集めではなく、まとまった全体としてとらえた形のことです。

階層的な構造

ネオコグニトロンは、入力層(photoreceptor array)の後に、2層の細胞からなるモジュール構造を縦続につないだ構造をしています。各モジュールの第1層の細胞は視覚神経系の単純細胞(simple cells)に似た性質を持ち、次の層の細胞は複雑細胞(complex cells)に似た性質を持つとされています。

自己組織化が終わると、このネットワークは Hubel と Wiesel が提案した視覚神経系の階層モデルに似た構造になると論文は述べています。階層モデルとは、単純な特徴を扱う段から、より複雑な特徴を扱う段へと、処理が段階的に積み重なっていると考える見方です。

なお、ネオコグニトロンは一般に畳み込みニューラルネットワーク(CNN)の先駆けとして挙げられることがあります。