発展：公平性の技術指標と差分プライバシー

ねらい

このレッスンは、プライバシーと公平性のレッスンの続きにあたる発展（はってん）の記事です。公平さやプライバシーは、心がけの問題であると同時に、技術としてどう測り、どう守るか、という問題でもあります。ここでは、対象レッスンで学んだ公平性の定義・アルゴリズムバイアス・センシティブ属性という土台の上に、公平さを数で扱う見方と、プライバシーを技術で守る考え方を重ねます。

この記事は、ある程度の知識のある人に向けた深掘りです。対象レッスンで、公平性には複数の定義があること、偏りが判断の偏りとして表れることをつかんでいることを前提にします。細かい数式は使いません。なぜ、公平さやプライバシーが、一つの正解に決められないのか、という考え方に絞ります。

1. 公平さを数で表す：いくつかの見方

対象レッスンで、公平性には複数の定義がある、と学びました。ここでは、代表的な見方をもう少しはっきりさせます。公平さの測り方は、大きく、結果をそろえる見方と、正しさをそろえる見方に分けられます。

1つは、結果の割合をそろえる見方です。たとえば採用なら、グループによらず、合格する割合が同じであるべきだ、という考え方です。どのグループも、同じ割合で通る。これは、結果のうえでの対等さを重んじる見方です。

もう1つは、当たり外れの正しさをそろえる見方です。こちらは、割合そのものではなく、判断の正しさに目を向けます。たとえば、本当に力のある人を正しく合格と判定できる割合が、グループによらず同じであるべきだ、という考え方です。評価指標のレッスンで学んだ、正しく拾えたかどうかの割合をグループごとに比べて、そろっているかを見ます。

このほかにも、公平さの見方はいくつもあります。大事なのは、どの見方も、それぞれに筋が通っている、ということです。結果をそろえるべきか、正しさをそろえるべきか。それは、その場面で何を大切にするかによって変わり、技術だけでは決められません。ここでは、公平さには、結果の割合をそろえる見方と、判断の正しさをそろえる見方など、複数の測り方がある、と押さえてください。

理解の確認

公平さの測り方には、グループによらず結果の割合（合格率など）をそろえる見方と、判断の正しさ（本当に力のある人を正しく拾えた割合など）をそろえる見方があります。どちらも筋が通っており、どれを選ぶかは、その場面で何を大切にするかによります。技術だけでは決められません。

2. 同時には満たせない：公平さの難しさ

公平さの見方が複数あること自体は、まだ大きな問題ではありません。難しいのは、それらの見方が、同時には満たせないことがある、と分かっている点です。

数の研究から、次のことが示されています。もとになる状況にグループ間の違いがあるとき、複数の公平さの見方をすべて同時に満たすことは、原理的にできない場合がある。片方の公平さをきっちり満たそうとすると、もう片方の公平さが、必ず崩れてしまう。これは、努力が足りないから両立しないのではなく、そもそも両立しえない、ということです。

だから、公平なAIを作る作業は、「唯一の正しい公平さ」を実現する作業ではありません。複数の公平さの中から、その場面でどれを重んじるかを選び、選ばなかった公平さが、どれだけ犠牲になるかを引き受ける作業です。この選択は、価値判断であり、技術者だけで決めてよいものではありません。だれが影響を受けるのか、その人たちにとって何が大切かを踏まえ、関わる人たちで決めるべきものです。ここでは、複数の公平さは同時には満たせないことがあり、どれを重んじるかの選択は価値判断だ、と押さえてください。

理解の確認

もとの状況にグループ間の違いがあるとき、複数の公平さの見方をすべて同時に満たすことは、原理的にできない場合があります。だから、公平なAIを作るとは、どの公平さを重んじるかを選ぶことであり、それは技術ではなく価値判断です。関わる人たちで決めるべきものです。

3. 個人を守りながら役立てる：差分プライバシー

公平さから、プライバシーに移ります。データは、役立てたい一方で、個人を守らねばなりません。この、相反する求めに答える考え方の1つが、差分プライバシー（さぶんプライバシー、differential privacy）です。

考え方の芯は、こうです。データ全体から役に立つ傾向を取り出しつつ、その結果から、特定の一人が含まれていたかどうかを突き止められないようにすることです。そのために、結果に、わざと、程よい量のゆらぎ（ノイズ）を加えます。ゆらぎを加えると、「その一人がいてもいなくても、結果はほとんど変わらない」という状態を作れます。すると、結果を見ても、ある個人がデータに入っていたかを言い当てられません。全体の傾向は保ちつつ、一人ひとりの痕跡をゆらぎでぼかすのです。

たとえるなら、大勢の答えを集めて平均を出すとき、一人ひとりの答えに、少しずつでたらめを混ぜてもらうようなものです。大勢ぶん集めれば、混ぜたでたらめはならされて、全体の傾向は見えます。しかし、特定の一人の答えは、でたらめに紛れて、取り出せません。差分プライバシーは、この考えをはっきりした形で保証しようとするものです。個人情報保護のレッスンで学んだ匿名加工の考え方とも、ねらいは通じます。

理解の確認

差分プライバシーは、データ全体の傾向を取り出しつつ、結果から特定の個人が含まれていたかを突き止められないようにする考え方です。結果に程よいゆらぎ（ノイズ）を加え、その一人がいてもいなくても結果がほとんど変わらないようにして、個人の痕跡をぼかします。

4. ここにも釣り合いがある

差分プライバシーにも、公平さと同じく、釣り合いがあります。プライバシーと、結果の役立ちの間の釣り合いです。

加えるゆらぎを大きくするほど、個人は強く守られます。しかし、ゆらぎが大きすぎると、全体の傾向まで、ぼやけてしまいます。結果が、役に立たないほど不正確になるのです。逆に、ゆらぎを小さくすれば、結果は正確になりますが、個人を守る力は弱まります。強く守れば役立ちが減り、役立ちを取れば守りが減る。この釣り合いの中で、どれだけのゆらぎを加えるかを選びます。

ここでも、「唯一の正解」はありません。どれだけプライバシーを守り、どれだけ結果の正確さを取るか。それは、扱うデータの機微さや、使う目的によって決めるべきことです。公平さと差分プライバシー。この2つに共通するのは、技術は選択肢と、その代償を示せるが、どれを選ぶかは価値の問題として人が決める、という構図です。技術で片づく問題と、人が引き受けて決める問題を切り分けて考える。それが、公平さとプライバシーに向き合ううえで、大切な姿勢です。

理解度の確認