偏相関係数

偏相関係数が表すもの

相関係数は、2つの変数のあいだにある直線的な関係(線形関係)の強さと向きをマイナス1からプラス1の値で表す指標です。米国国立標準技術研究所(NIST)の統計ソフトウェアの解説書 Dataplot Reference Manual は、変数 $x$ と $y$ の相関係数を次の式で定義しています。

$$r=\frac{S_{xy}}{\sqrt{S_{xx}}\sqrt{S_{yy}}}$$

$S_{xx}$ と $S_{yy}$ はそれぞれの変数の平均からのずれの2乗の合計、$S_{xy}$ は2つの変数のずれの積の合計です。

2つの変数に相関が見えるとき、その一部または全部が、両方と関連している別の変数によって生じていることがあります。偏相関係数は、そうした別の変数との関連を差し引いたうえで、2つの変数のあいだにどれだけの相関が残るかを表す値です。同じ解説書の説明では、偏相関係数は1つ以上の別の変数の効果を除いたあとの2変数間の相関です。

3つの相関係数から求める式

差し引く変数が1つの場合、偏相関係数は3つの変数どうしの通常の相関係数から直接計算できます。変数1と変数2の相関から変数3との関連を差し引いた偏相関係数を $r_{12.3}$ と書くと、式は次のとおりです。

$$r_{12.3}=\frac{r_{12}-r_{13}{r}_{23}}{\sqrt{(1-r_{13}^2)(1-r_{23}^2)}}$$

$r_{12}$ は変数1と変数2の相関係数、$r_{13}$ は変数1と変数3の相関係数、$r_{23}$ は変数2と変数3の相関係数です。

分子は、変数1と変数2のもとの相関 $r_{12}$ から、2つの変数がどちらも変数3と相関していることから見込まれる分 $r_{13}{r}_{23}$ を引いたものです。分母は、それぞれの変数のうち変数3との相関では説明されない部分の大きさに応じて値を割り直し、結果が通常の相関係数と同じマイナス1からプラス1の範囲に収まるようにしています。

値の読み方は通常の相関係数と同じです。プラス1は完全な正の線形関係、マイナス1は完全な負の線形関係、0は線形関係が無いことを表します。

「効果を除く」が指している操作

NIST の解説書は「効果を除く」と書いていますが、式が実際に使っているのは3つの相関係数だけです。相関係数は線形関係の尺度なので、偏相関係数で差し引かれるのは、変数1と変数2がそれぞれ変数3と持っている線形の関連です。

この「効果を除く」という言い方は、変数3との線形の関連を数の上で差し引くという統計的な操作を指しています。変数3が変数1や変数2に実際に与えている因果的な影響を突き止めたり取り除いたりする手続きではありません。解説書のこのページも、因果関係について何かを保証するとは書いていません。

架空の数値で計算してみる

次の数値は、式の動きを確かめるために作った架空の例で、実際の調査の結果ではありません。

ある地域の日ごとのデータで、アイスクリームの売上を変数1、水の事故の件数を変数2、最高気温を変数3とし、相関係数が次の値だったとします。

分子は $0.60-0.80\times 0.70=0.60-0.56=0.04$ です。

分母は $\sqrt{(1-0.64)(1-0.49)}=\sqrt{0.36\times 0.51}=\sqrt{0.1836}\approx 0.428$ です。

$$r_{12.3}=\frac{0.04}{0.428}\approx 0.09$$

売上と事故件数の通常の相関係数は0.60でしたが、気温との線形の関連を差し引くと0.09まで小さくなりました。この架空のデータでは、売上と事故件数の相関の大部分が、どちらも気温と相関していることで数の上では説明できる、と読めます。

ただし、この計算から言えるのはそこまでです。気温が売上と事故の両方の原因になっていることは、この数値からは確かめられません。気温を選んで差し引いたのは計算する人の判断であり、式はその選び方が妥当かどうかを教えてくれません。

差し引くと相関が強まることもある

偏相関係数は、いつも通常の相関係数より0に近づくわけではありません。これも架空の数値ですが、$r_{12}=0.20$、$r_{13}=0.60$、$r_{23}=-0.50$ の場合を計算します。

分子は $0.20-0.60\times (-0.50)=0.20+0.30=0.50$ です。分母は $\sqrt{(1-0.36)(1-0.25)}=\sqrt{0.48}\approx 0.693$ です。

$$r_{12.3}=\frac{0.50}{0.693}\approx 0.72$$

変数3と一方は正、もう一方は負の相関を持っているため、もとの相関0.20は変数3との関連によって弱められて見えていた、という計算結果になります。変数3との線形の関連を差し引くと、変数1と変数2の相関は0.72まで大きくなりました。偏相関係数は、相関を小さくする道具ではなく、別の変数との線形の関連を差し引いたあとの値を示す道具です。

通常の相関係数との違い

2つは値の読み方が同じなので、並べて比べられます。通常の相関係数と偏相関係数の差が大きいときは、2変数の相関のうち、差し引いた変数との線形の関連で説明できる部分が大きかったことを意味します。

読み取るときに気をつけること

偏相関係数が0に近くなっても、変数1と変数2のあいだに因果関係が無いことの証明にはなりません。反対に、偏相関係数が大きく残っても、2つの変数が直接の原因と結果の関係にあることは示されません。差し引いていない別の変数との関連が残っている可能性もあります。

差し引かれるのは線形の関連だけです。相関係数は線形関係の尺度なので、変数3と曲線的な関係で結びついている部分は、この式では差し引かれずに残ることがあります。

ここで示した式は、差し引く変数が1つの場合のものです。NIST の解説書の定義は1つ以上の変数を差し引く場合も含みますが、このページの式が扱っているのは1つの場合だけです。