単純パーセプトロン

入力層と出力層だけでできた構造

単純パーセプトロンは、入力を受け取る入力層と、結果を出す出力層だけでできています。ニューラルネットワークでは、入力層と出力層の間に置く層を隠れ層と呼びます。単純パーセプトロンはこの隠れ層を持たない、ニューラルネットワークの最も基本的な形です。G検定シラバス2024では、中項目11 ニューラルネットワークとディープラーニングのキーワードに含まれています。

式で見る単純パーセプトロンの計算

Google Machine Learning Crash Courseは、次の線形モデルをノードの図として示しています。

y' = b + w1×x1 + w2×x2 + w3×x3

x1、x2、x3は3つの入力ノード、y'は出力ノードです。w1、w2、w3は各入力に掛ける重みで、bはバイアスです。出力ノードの値は、各入力に重みを掛けて足し合わせ、さらにバイアスを足して求めます。たとえばx1=1.00、x2=2.00、x3=3.00を入力すると、そのときの重みとバイアスの値に応じてy'の値が1つ決まります。

重みを変えても関係は線形のまま

この構造で最も大切な性質は、重みやバイアスの値をどう調整しても、入力と出力の間の数学的な関係が変わらないことです。値を変えれば出力の数値は変わりますが、モデルは線形モデルのままです。各ノードの計算は掛け算と足し算だけの線形計算なので、単純パーセプトロンは非線形の関係を学習できません。

多層パーセプトロンとの違い

単純パーセプトロンと多層パーセプトロンの違いは、入力層と出力層の間に隠れ層を持つかどうかです。ただし、線形計算を何層重ねても、その計算自体は線形のままです。層を増やしたモデルで非線形の関係を扱うには、活性化関数という仕組みが必要で、これは別の語で扱います。