AIガバナンスの実践：組織で倫理を回すしくみ

ねらい

このレッスンでは、AIガバナンスを組織の中で実際にどう回すかを学びます。前のレッスンで、倫理を組織の行動として回すしくみ全体をAIガバナンスと呼ぶと学びました。ここではその中身に入ります。

基礎

方針づくり、事前の評価、運用中の見張りといった実践の柱をつかみます。

1. まず、組織の方針を決めます

倫理を実践する出発点は、組織としての方針をはっきり決めることです。この方針をAIポリシー（エーアイポリシー）と呼びます。AIポリシーとは、その組織がAIをどんな目的で、どこまで、どう使うかを定めた基本方針のことです。

方針が文書として決まっていると、現場の一人ひとりが迷ったときに立ち返る基準になります。逆に方針がないと、判断が担当者ごとにばらばらになり、問題が起きやすくなります。

方針づくりのときに大切にされるのが、ダイバーシティ（英語で diversity、多様性）です。ダイバーシティとは、性別や年齢、文化や専門など、さまざまな背景を持つ人が関わっている状態のことです。似た人ばかりで方針を決めると、特定の立場の人への影響を見落としがちになります。多様な人が関わることで、思わぬ不公平や見落としに気づきやすくなります。

2. つくる前に、倫理の面から評価します

AIを本格的に使い始める前に、倫理の面で問題がないかを調べておく必要があります。この事前の点検を倫理アセスメントと呼びます。倫理アセスメントとは、そのAIが人や社会に望ましくない影響を与えないかを事前に、また定期的に評価する取り組みのことです。

たとえば、採用を手伝うAIを導入する前に、特定の人を不利に扱わないか、判断の理由を説明できるか、といった観点で確かめます。問題が見つかれば、使い始める前に直せます。動かしてから気づくよりも、被害をずっと小さくできます。

もう1つ大切なのが、人間の関与です。人間の関与とは、AIにすべてを任せきりにせず、重要な判断には人が関わって最終的に確かめるあり方のことです。とくに人の権利や安全にかかわる場面では、AIの出した答えをそのまま実行せず、人が確認して決めます。

3. 動かし始めたら、見張り続けます

AIは、つくったときは正しく動いていても、時間がたつと調子が変わることがあります。世の中のデータの傾向が変われば、判断の精度が落ちたり、思わぬかたよりが出たりします。

そこで必要になるのが、モニタリングです。モニタリング（英語で monitoring、監視）とは、運用中のAIの動きを継続して見張り、おかしな兆候を早く見つける取り組みのことです。定期的に成績を測り、基準を下回ったら手を打ちます。

つくる前の倫理アセスメントと、動かした後のモニタリングは、対になっています。前者は始める前の点検、後者は動かした後の見張りです。この2つがそろって、はじめてAIを安心して使い続けられます。

ここまでの要点

• 組織の基本方針であるAIポリシーを決め、多様な人が関わって影響の見落としを防ぎます。
• 使い始める前に倫理アセスメントで点検し、重要な判断には人間の関与を残します。
• 動かした後はモニタリングで見張り、調子の変化を早く見つけます。

まずは全体像をつかめれば十分という人は、ここで区切って大丈夫です。「方針を決める」「事前に点検する」「動かした後も見張る」という流れがつかめていれば、この先の深掘りに進む土台はできています。

発展

ここからは、あとから問題をたどるための記録の残し方と、外部の目を借りる方法をもう少しくわしく見ます。

4. あとからたどれるように、記録を残します

問題が起きたとき、原因をさかのぼって突き止められることが大切です。そのために2つの性質が求められます。トレーサビリティと再現性です。

トレーサビリティ（英語で traceability、追跡可能性）とは、AIがある判断にいたるまでに、どんなデータを使い、どんな手順をたどったのかをあとから追いかけられる状態のことです。判断の経路をたどれれば、どこで問題が生じたのかを特定できます。

再現性（さいげんせい）とは、同じ条件をそろえれば、同じ結果をもういちど再現できる性質のことです。あるとき出た答えが、次に同じ入力を与えても再現できなければ、原因の調査ができません。使ったデータやプログラムの版を記録しておくことで、再現性を確保します。

トレーサビリティは判断の道すじをたどる話、再現性は同じ結果を出しなおせる話です。この2つがそろうと、問題が起きたときに、感覚ではなく記録にもとづいて原因を調べられます。

理解の確認

トレーサビリティは、AIがどのデータと手順で判断にいたったかをあとから追いかけられる性質です。再現性は、同じ条件をそろえれば同じ結果を再現できる性質です。どちらも、問題が起きたときに原因を記録から突き止めるために欠かせません。

5. 外部の目を借りる

ここからは、組織の外の力を借りる方法にふれます。

組織が自分でAIをチェックするだけでは、身内の甘さや思い込みを見のがすことがあります。そこで、外部の立場から確かめるしくみが使われます。それがAIに対する監査です。AIに対する監査とは、AIが定めたルールや基準を守れているかを組織の外の専門家などが独立した立場で確かめることです。

とくに、利害関係のない第三者が行う監査を第三者監査と呼びます。第三者による監査は、組織の内部評価よりも中立性が高いと受け止められやすく、社会からの信頼を得やすくなります。

もう1つの発展的な手法が、レッドチーミング（英語で red teaming）です。レッドチーミングとは、あえて攻撃する側の視点に立ち、AIの弱点や悪用のされ方を意図的に探し出す取り組みのことです。たとえば、AIに不適切な発言をさせようとわざと揺さぶり、どこで問題が起きるかを事前に見つけます。攻める側になって試すことで、実際に悪用される前に守りを固められます。

理解の確認

AIに対する監査は、ルールや基準を守れているかを組織の外の立場から確かめる取り組みで、中立な第三者が行うと信頼を得やすくなります。レッドチーミングは、攻撃側の視点でAIの弱点を意図的に探し、悪用される前に守りを固める手法です。

理解度の確認