プライバシーと公平性：データが生むかたより

ねらい

このレッスンでは、AIとプライバシー、そしてAIの公平性について学びます。

なお、個人情報保護法などの法律の中身は、AIに関する法律を学ぶ章で詳しく扱います。このレッスンでは、法律よりも広い、倫理としてのプライバシーと公平性を見ていきます。

基礎

AIがあつかう個人の情報をどう守るか、設計の段階から守る考え方、そしてAIの判断がなぜ不公平になりうるかをつかみます。

1. AIとプライバシーの問題

プライバシーとは、自分に関する情報を自分の望む範囲でコントロールできることです。AIは大量のデータを集めて学ぶため、この情報の扱いが問題になりやすい分野です。

プライバシーの問題は、大きく2つの段階で起こります。1つ目はデータを集める段階です。もう1つは、AIが判断を行う推論の段階です。

データを集める段階では、本人が知らないうちに情報を集めていないか、目的をこえて集めていないかが問われます。推論の段階では、集めた情報から、本人が知られたくないことまで言い当ててしまう危険があります。たとえば買い物の記録から、健康状態や思想まで推測されることがあります。

こうした問題を防ぐ考え方が、プライバシー・バイ・デザイン（英語で Privacy by Design）です。プライバシー・バイ・デザインとは、あとから対策を足すのではなく、システムを設計する最初の段階からプライバシーの保護を組み込む考え方のことです。問題が起きてから直すのではなく、はじめから守る設計にします。

2. カメラを使うAIの注意点

顔や姿を写すカメラの画像は、とりわけ慎重な扱いが求められる情報です。だれがいつどこにいたかが分かってしまうためです。

日本には、カメラ画像利活用ガイドブックという指針があります。カメラ画像利活用ガイドブックとは、カメラで撮った画像をAIなどで使うときに、プライバシーの面で気をつけるべきことや、その対応策をまとめた指針のことです。

この指針では、たとえば、撮影していることを分かるように知らせること、集めた画像を目的の外に使わないこと、必要がなくなった画像を適切に消すことなどが求められます。カメラを使うAIをつくるときは、こうした点を設計に反映します。

3. AIの判断は、なぜ不公平になりうるのでしょうか

AIは、人の思い込みを持たないから公平だ、と思われがちです。しかし実際には、AIの判断が特定の人を不当に不利に扱うことがあります。

このように、AIの判断に生じる系統的なかたよりをアルゴリズムバイアス（英語で algorithmic bias）と呼びます。アルゴリズムバイアスとは、AIのしくみが、特定の属性の人を繰り返し不利に、あるいは有利に扱ってしまう、偏った傾向のことです。

ここで難しいのは、公平性の定義が1つに定まらないことです。何をもって公平とするかは、立場によって変わります。全員を同じ基準であつかうことを公平と見る立場もあれば、もともと不利な人に配慮することを公平と見る立場もあります。公平性の定義が複数あるため、すべてを同時に満たすことができない場合もあります。

ここまでの要点

• プライバシーの問題は、データを集める段階と推論の段階で起こり、設計の最初から守る考え方をプライバシー・バイ・デザインと呼びます。
• カメラ画像利活用ガイドブックは、カメラ画像をAIで使うときの注意点をまとめた指針です。
• AIの判断が特定の人を不利に扱う偏りをアルゴリズムバイアスと呼び、そもそも公平性の定義は1つに定まりません。

まずは全体像をつかめれば十分という人は、ここで区切って大丈夫です。「集める段階と使う段階で守る」「AIも不公平になりうる」「公平の意味は1つでない」と押さえられていれば、この先の深掘りに進む土台はできています。

発展

ここからは、不公平がどこから生まれるのかを細かく分け、それを和らげる技術まで、もう少しくわしく見ます。

4. かたよりは、どこから来るのでしょうか

アルゴリズムバイアスの多くは、学習に使うデータのかたよりから生まれます。このデータの偏り（かたより）とは、集めたデータが現実の全体をうまく代表しておらず、一部にかたよっている状態のことです。かたよったデータから学べば、AIの判断もかたよります。

データの偏りの代表が、サンプリングバイアスです。サンプリングバイアスとは、データを集めるやり方のせいで、特定の集団ばかりが多く集まったり、逆にほとんど集まらなかったりするかたよりのことです。たとえば、ある地域の人の写真ばかりで顔認識を学ぶと、写真の少ない地域の人をうまく見分けられなくなります。

不公平を考えるうえで大切な言葉が、センシティブ属性です。センシティブ属性とは、人種や性別、信条や病歴など、差別につながりやすく慎重にあつかうべき、その人の特徴のことです。公平なAIをつくるには、これらの属性で不利が生じていないかを確かめます。

やっかいなのが代理変数です。代理変数とは、センシティブ属性そのものではないのに、それと強く結びついていて、間接的に同じ役割を果たしてしまう別の情報のことです。たとえば、性別を使わないと決めても、購買履歴や職業から性別が推測できると、結果として性別で差別したのと同じことが起こります。センシティブ属性を除くだけでは足りず、代理変数にも目を配る必要があります。

理解の確認

データの偏りは、集めたデータが現実の全体を代表していない状態で、その代表例がサンプリングバイアスです。センシティブ属性は差別につながりやすい特徴で、代理変数はそれと強く結びつく別の情報です。センシティブ属性を除いても、代理変数を通じて不公平が残ることがあります。

5. 公平性を測る指標と、差分プライバシー

ここからは、公平性を技術で扱う考え方にふれます。

公平かどうかを言葉で語るだけでなく、数で測ろうとする試みがあります。これを公平性の技術的な指標と呼びます。たとえば、ある属性のグループとほかのグループとで、合格する割合をそろえる考え方や、正しく当てられる割合をそろえる考え方などがあります。ただし、これらの指標は同時にすべてを満たせないことが知られており、どれを重んじるかは、その場の目的に応じて選ぶ必要があります。

プライバシーを守りながらデータを活用する技術に、差分プライバシー（英語で differential privacy）があります。差分プライバシーとは、データにわざと少量のノイズ、つまり乱れを加えることで、ひとりの個人がそのデータに含まれているかどうかを分からなくする技術のことです。全体としての傾向は保ちつつ、個人が特定されにくくします。集団の分析には使えても、特定の個人を言い当てられないようにする、という考え方です。

理解の確認

公平性の技術的な指標は、公平さを数で測る試みですが、複数の指標を同時にすべて満たすことはできず、目的に応じて選びます。差分プライバシーは、データに少量のノイズを加えて、個人が含まれているかを分からなくし、全体の傾向は保ったまま個人を守る技術です。

理解度の確認