公平性の定義

公平性の形式的な定義の1つ: 独立性

機械学習の公平性を扱う教科書として広く読まれている、Barocas、Hardt、Narayanan の Fairness and Machine Learning(fairmlbook.org)では、公平性を数式で表す定義がいくつか示されています。その1つが独立性(independence)です。原文の定義は次のとおりです。

> Definition 1. Random variables (A, R) satisfy independence if A ⊥ R.

参考訳: 確率変数の組(A, R)は、AとRが独立であるとき、独立性を満たす。

ここでAは、学習者がどのグループに属するかを表す属性(例えば性別や年齢層)です。Rは分類器の出力の側を表す確率変数です。記号⊥は、2つの確率変数が互いに独立であることを表します。つまり独立性とは、分類器の出力が、その人がどのグループに属するかと統計的に無関係であることを求める定義です。

同書は、この定義が2値の分類器ではどのような条件になり、どう呼ばれているかも説明しています。

> independence is often referred to as demographic parity, statistical parity, group fairness, disparate impact and others. In this case, independence corresponds to the condition P{Ŷ=1|A=a} = P{Ŷ=1|A=b}, for all groups a, b.

参考訳: 独立性は、demographic parity(人口統計的パリティ)、statistical parity(統計的パリティ)、group fairness(グループ公平性)、disparate impact(差別的インパクト)などと呼ばれることが多い。この場合、独立性は、すべてのグループa、bについて、P{Ŷ=1|A=a} = P{Ŷ=1|A=b}という条件に対応する。

Ŷは分類器の予測結果で、Ŷ=1は例えば採用する、融資を認めるといった肯定的な判定を表します。P{Ŷ=1|A=a}は、グループaに属する人が肯定的な判定を受ける条件付き確率です。したがって、2値の分類器での独立性は、肯定的な判定が出る割合(採択率)がすべてのグループで等しいことを求める考え方だと整理できます。

押さえておきたいのは、同じ条件に複数の呼び名があることです。demographic parity、statistical parity、group fairness、disparate impactは、同書によれば、いずれも独立性を指して使われることが多い名前です。

公平性の指標は複数ある、という前提

独立性は、公平性を測る指標の1つにすぎません。Fairness and Machine Learningでも、独立性は公平性の形式的な定義の1つとして扱われており、ほかにも複数の定義が検討されています。

指標が複数あるということは、指標ごとに求めるものが異なりうるということです。独立性は、実際の正解や各グループの事情に関係なく、採択率がそろっているかどうかだけを見ます。ほかの指標には、別の観点から公平さを測ろうとするものがあります。そのため、ある指標で公平と判定されたシステムが、別の指標でも公平と判定されるとは限りません。どの指標を使うかは、システムの目的や利用する場面を踏まえて検討されるものです。このページでは、個々の指標の中身には立ち入りません。

日本の公式文書における位置づけ

日本の公式文書でも、公平性はAIの開発と利用で重視すべき事項として掲げられています。

総務省と経済産業省によるAI事業者ガイドライン(第1.1版、令和7年3月28日)は、本編の3)公平性で次のように述べています。

> 各主体は、AIシステム・サービスの開発・提供・利用において、特定の個人ないし集団への人種、性別、国籍、年齢、政治的信念、宗教等の多様な背景を理由とした不当で有害な偏見及び差別をなくすよう努めることが重要である。また、各主体は、それでも回避できないバイアスがあることを認識しつつ、この回避できないバイアスが人権及び多様な文化を尊重する観点から許容可能か評価した上で、AIシステム・サービスの開発・提供・利用を行うことが重要である

統合イノベーション戦略推進会議が決定した人間中心のAI社会原則(平成31年3月29日)も、第2章の(6)公平性、説明責任及び透明性の原則で次のように述べています。

> AIの設計思想の下において、人々がその人種、性別、国籍、年齢、政治的信念、宗教等の多様なバックグラウンドを理由に不当な差別をされることなく、全ての人々が公平に扱われなければならない

どちらの文書も、人種、性別、国籍、年齢、政治的信念、宗教などの多様な背景を理由とした不当な差別をなくすことを、理念として掲げています。AI事業者ガイドラインは、それでも避けられないバイアスがあることを前提に、そのバイアスが許容できるかを評価するよう求めています。

一方で、ここに引用した記述には、独立性のような技術的な指標や、公平かどうかを判定する数式は書かれていません。日本の公式文書が示すのは目指す方向と理念であり、それを具体的にどう測るかは、前の2つの節で見た形式的な定義の領域になります。

AIとの関わり

AIシステムは、過去のデータから学習した結果を使って判定を出します。そのため、出力が特定のグループに対して系統的に不利になっていないかが問題になりえます。

こうした問題を避けるという目的のもとで、公平性を数式で定義しようとする研究が行われています。独立性はその代表的な例の1つです。数式で定義することで、あるシステムの出力が定義を満たしているかを、データを使って確かめられるようになると考えられます。ただし、前述のとおり指標は複数あり、どの指標を満たせば十分かは一律には決まらないと考えられています。