代理変数

代理変数とは

代理変数(英語では proxy)とは、センシティブ属性そのものではないものの、それと強く相関するために、間接的に同じ働きをしてしまう特徴量を指します。センシティブ属性とは、人種や性別のように、公平性の議論で直接の対象となる属性のことです。

機械学習の公平性を扱う教科書に、Fairness and Machine Learning(Barocas, Hardt, Narayanan著、fairmlbook.orgで公開)があります。この本は第3章のFairness through unawarenessの節で、次のように述べています。この節名は、センシティブ属性を使わないことで公平性を確保しようとする考え方を指します。

> Several features that are slightly predictive of the sensitive attribute can be used to build high accuracy classifiers for that attribute. In large feature spaces sensitive attributes are generally redundant given the other features. If a classifier trained on the original data uses the sensitive attribute and we remove the attribute, the classifier will then find a redundant encoding in terms of the other features.

参考訳(執筆者による): センシティブ属性をわずかに予測する特徴量が複数あれば、その属性を高い精度で予測する分類器を作ることができる。特徴量の空間が大きい場合、センシティブ属性は他の特徴量があれば一般に冗長になる(他の特徴量から再構成できてしまう)。元のデータでセンシティブ属性を使って学習した分類器からその属性を取り除いても、分類器は他の特徴量による冗長な符号化を見つけ出してしまう。

ここで押さえたい点は2つあります。

• 1つ1つはセンシティブ属性をわずかにしか予測しない特徴量でも、いくつも組み合わさると、その属性を高い精度で予測できるようになる
• そのため、センシティブ属性の列をデータから削除しても、モデルは残った特徴量の組み合わせから同じ情報を拾い直してしまう

教科書はこの拾い直しを、冗長な符号化(redundant encoding)と表現しています。このように、センシティブ属性の情報を間接的に運んでしまう特徴量が、代理変数と呼ばれるものです。

採用選考の例

同じ教科書は採用選考の例で、代理変数という語をはっきり使っています。以下は原文では1文ですが、ここでは表記の都合で2つに区切って示します。

> We observe that GPA is correlated with the demographic attribute

> it's a proxy. Perhaps we could simply omit that variable as a predictor? Unfortunately, we'd also hobble the accuracy of our model. In real datasets, most attributes tend to be proxies for demographic variables, and dropping them may not be a reasonable option.

参考訳(執筆者による): GPA(成績評価の平均値)が人口統計上の属性(デモグラフィック属性)と相関していることが観察される。これは代理変数(proxy)である。その変数を予測に使うのを単純にやめればよいのではないか。しかし残念ながら、そうするとモデルの精度も損なわれてしまう。実際のデータセットでは、ほとんどの特徴量が人口統計上の変数の代理変数になる傾向があり、それらを取り除くことは妥当な選択肢にならないことがある。

この例が示しているのは、次の2つの間のトレードオフです。

さらに教科書は、実際のデータではほとんどの特徴量が何らかの代理変数になりうると指摘しています。怪しい変数を1つずつ削除していくやり方は、現実的な解決策にならないことがある、という指摘です。

日本の公式文書における位置づけ

総務省と経済産業省によるAI事業者ガイドライン(第1.1版、令和7年3月28日)の脚注29には、次の記述があります。

> 潜在的なバイアスの例として、人種や性別等の明らかなセンシティブ属性を取り除いたデータであっても、関連する情報からセンシティブ属性が類推されてしまう場合や、複数の属性の組み合わせによってバイアスが生じてしまう場合(交差バイアス)などがある

この脚注に、代理変数という語そのものは出てきません。ただ、センシティブ属性を取り除いたデータでも、関連する情報からセンシティブ属性が類推されてしまう場合がある、という前半の記述は、代理変数の考え方に近い内容です。日本の公式文書も、属性を削除するだけでは足りない場合があることを潜在的なバイアスの例として挙げている、と読むことができます。

なお、同じ脚注の後半にある交差バイアスは、複数の属性の組み合わせによってバイアスが生じる場合を指しており、このページの主題とは別の論点です。

間接に効くか直接使うかという違い

代理変数を理解するには、対になる語であるセンシティブ属性との違いを整理しておくと分かりやすくなります。センシティブ属性とは、人種や性別等、公平性の議論で直接の対象となる属性そのものです。

つまり、両者の違いは、センシティブ属性を直接使うのか、それとも別の特徴量を通じて間接に効いてしまうのか、という点にあります。センシティブ属性を使っていないことは、センシティブ属性の影響が無いことを意味しない。この点が、代理変数という語が示している中心的な論点です。

AIとの関わり

機械学習モデルは、学習データの中から予測に役立つ相関を広く拾い上げます。そのため、センシティブ属性を直接の入力から取り除くだけでは、代理変数を通じて、実質的に同じ結果が再現されてしまうことがあります。

このことから、AIの公平性を確保するには、どの属性を入力に使うかを決めるだけでは足りない場合があると考えられます。残した特徴量がセンシティブ属性とどの程度相関しているか、結果として属性ごとにどのような差が出ているかといった点まで、より注意深く検討する必要が出てきます。どの方法が適切かは、目的やデータによって変わります。

G検定のシラバス2024では、代理変数が対象キーワードとして掲載されています。