センシティブ属性

センシティブ属性とは

機械学習の公平性を扱う教科書として広く読まれているBarocas、Hardt、NarayananのFairness and Machine Learningは、第3章で次のように書いています。

> We will set aside the letter A to designate a discrete random variable that captures one or multiple sensitive characteristics. Different settings of the random variable A correspond to different mutually disjoint groups of the population. The random variable A is often called a sensitive attribute in the technical literature.

参考訳: 1つまたは複数のセンシティブな特性を捉える離散確率変数を表すために、文字Aを用いる。この確率変数Aの異なる値は、母集団の中の互いに排他的な異なるグループに対応する。この確率変数Aは、技術文献ではしばしばセンシティブ属性(sensitive attribute)と呼ばれる。

この説明によると、センシティブ属性は単なる入力項目の1つではありません。その値によって人々をいくつかのグループに分け、グループ同士の扱いに差が出ていないかを調べるときの軸になる変数です。

どのような特性がこれに当たるかについて、同じ章はアメリカの法律を例に挙げています。

> United States law recognizes certain protected categories including race, sex (which extends to sexual orientation), religion, disability status, and place of birth.

参考訳: アメリカの法律は、人種、性(性的指向を含む)、宗教、障害の有無、出生地といった、一定の保護されるべきカテゴリを認めている。

この教科書の定義にならうと、人種・性別・宗教・障害の有無・出生地のように、公平性の議論で直接の対象となる属性そのものがセンシティブ属性です。国籍なども公平性の議論で扱われることがありますが、上の引用が挙げている例は人種・性・宗教・障害の有無・出生地です。何を保護の対象とするかは、国や法律によって異なります。

日本の公式文書における位置づけ

総務省と経済産業省のAI事業者ガイドライン(第1.1版、令和7年3月28日)は、脚注29で潜在的なバイアスの例を次のように挙げています。

> 潜在的なバイアスの例として、人種や性別等の明らかなセンシティブ属性を取り除いたデータであっても、関連する情報からセンシティブ属性が類推されてしまう場合や、複数の属性の組み合わせによってバイアスが生じてしまう場合(交差バイアス)などがある

センシティブ属性という語そのものが、日本の公式文書に書かれています。この脚注から読み取れることは2つあります。

• 人種や性別は、明らかなセンシティブ属性の例として挙げられている
• センシティブ属性をデータから取り除いても、関連する情報からそれが類推されてしまう場合がある

この脚注は、複数の属性の組み合わせによって生じる交差バイアスにも触れています。

直接使うか間接に効くかという違い

センシティブ属性と対になってよく使われる語に、代理変数があります。代理変数とは、センシティブ属性そのものではないものの、センシティブ属性と強く相関するために、モデルの中で間接的に同じ働きをしてしまう特徴量のことです。この語は、上の2つの資料の引用には出てきません。ガイドライン脚注29の、関連する情報からセンシティブ属性が類推されてしまう場合という記述は、こうした働きをする情報がありうることを示しています。

2つの語は、次のように整理できます。

センシティブ属性は、公平性を問うときの対象そのものです。そのため、モデルがこの属性を入力に使ってよいか、使った結果グループ間に差が出ていないかという、直接使うことをめぐる議論の中心になります。代理変数は、この対象そのものではないが、それと結びついて働いてしまうもの、という位置にあります。

AIとの関わり

AIのモデルは、学習に使ったデータの中の相関を取り込みます。ガイドライン脚注29が示すように、センシティブ属性を取り除いたデータであっても、関連する情報からそれが類推されてしまう場合があります。センシティブ属性を入力から外すだけでは公平性が確保されるとは限らない、という点は、AIの公平性を考えるうえでの出発点の1つになります。そのうえで、まず何をセンシティブ属性として扱うのかを決めておくことが、グループ間の扱いの差を調べる前提になります。