AI倫理とガイドライン：ソフトローとハードロー

ねらい

このレッスンでは、AIをめぐる倫理（りんり）と、その考え方をまとめたガイドラインについて学びます。

基礎

なぜAIに倫理が必要なのか、決まりには強いものとゆるやかなものの2種類があること、そしてリスクの大きさに応じて対応を変える考え方をつかみます。

1. なぜAIに倫理が必要なのでしょうか

AI倫理（エーアイりんり）とは、AIをつくり、使い、社会に広めるときに守るべき、正しさについての考え方のことです。人を傷つけない、差別しない、うそをつかないといった、人と社会にとって望ましいあり方を指します。

AIは、いちど社会に広まると、たくさんの人に一気に影響を与えます。ひとりの判断ミスなら被害は小さくても、AIのまちがいは何万件もの判断に同時に及ぶことがあります。だからこそ、動かす前から「何を大切にして設計するか」を決めておく必要があります。

AIが大切にすべき価値の柱を価値原則（かちげんそく）と呼びます。人間の尊厳を守る、公平である、安全である、といった、ゆずれない基本の考え方をまとめたものです。多くの国や団体が、それぞれの言葉で価値原則を掲げています。

2. 決まりには、強いものとゆるやかなものがあります

AIに関する決まりには、大きく2つの種類があります。1つ目はハードローです。もう1つはソフトローです。

ハードローとは、国が定めた法律や規則のように、守らないと罰則などの強制力がおよぶ決まりのことです。破れば罰金や処分を受けることがあります。効き目は強い一方で、つくるのに時間がかかり、いちど決めると細かい変更がしにくい性質があります。

ソフトローとは、法律ほどの強制力はないものの、守ることが望まれる指針やガイドラインのことです。業界団体の行動指針や、国がしめす推奨事項などが当てはまります。強制力がないぶん、状況の変化に合わせて素早く見直せる身軽さがあります。

AIの技術は変化がとても速く、法律の整備が追いつきにくい分野です。そのため、まずはソフトローで大まかな方向をしめし、必要な部分をハードローで固めていく、という組み合わせがよく使われます。

3. リスクの大きさで対応を変えます

AIといっても、天気を予想するAIと、人の命にかかわる医療のAIとでは、まちがえたときの重さがまるで違います。すべてのAIを同じ厳しさで縛ると、危険なものを見のがしたり、無害なものにまで過剰な負担をかけたりします。

そこで使われるのが、リスクベースアプローチという考え方です。リスクベースアプローチとは、AIがもたらす危険の大きさに応じて、規制や対策の強さを変える考え方のことです。危険が大きいAIには厳しい義務を課し、危険が小さいAIには軽い対応でよいとします。

このように、社会や組織がAIを適切に管理し、望ましい方向へ導くしくみ全体をAIガバナンス（エーアイガバナンス）と呼びます。ガバナンスとは、英語で governance と表記し、統治や管理のしくみを意味します。倫理という考え方を実際の組織の行動として回していく取り組みが、AIガバナンスです。

なお、AIガバナンスを組織の中で具体的にどう実践するかは、次の「AIガバナンスの実践」を学ぶレッスンで詳しく扱います。ここでは、リスクに応じて対応を変えるという考え方だけを押さえてください。

ここまでの要点

• AI倫理は、AIをつくり使うときに守るべき正しさの考え方です。大切にする価値の柱を価値原則と呼びます。
• 決まりには、強制力のあるハードローと、指針としてのソフトローの2種類があります。AIでは、両方を組み合わせて使います。
• リスクの大きさに応じて対応の強さを変える考え方をリスクベースアプローチと呼びます。倫理を組織の行動として回すしくみ全体が、AIガバナンスです。

まずは全体像をつかめれば十分という人は、ここで区切って大丈夫です。「倫理は動かす前に決める」「決まりに強いものとゆるやかなものがある」「危険が大きいほど厳しくする」と押さえられていれば、この先の深掘りに進む土台はできています。

発展

ここからは、世界のガイドラインが共通して大切にしていることと、最近の大きな動きをもう少しくわしく見ます。

4. ガイドラインが共通して掲げる価値

世界中の国や団体が、それぞれAIのガイドラインを公表しています。文書は数多くありますが、掲げている価値原則には、よく似た共通点があります。

代表的なものを挙げると、次のような柱が繰り返し登場します。

• 人間の尊厳と人権を尊重すること。AIが人を道具のように扱わないようにします。
• 公平であること。特定の人が不当に不利をこうむらないようにします。
• 安全であり、確かに動くこと。誤作動や悪用による被害を防ぎます。
• 透明であり、説明できること。なぜその判断になったのかを人が理解できるようにします。
• プライバシーを守ること。個人の情報を適切に扱います。

これらの柱は、章の後半のレッスンで1つずつくわしく扱います。ここで大切なのは、どの国のガイドラインも、似た価値を土台にしているという事実です。表現や強調点は違っても、根っこにある考え方は世界で共有されつつあります。

理解の確認

世界のAIガイドラインは、文書ごとに表現は違っても、人間の尊厳、公平性、安全性、透明性、プライバシーといった価値原則を共通して掲げています。これらの共通の柱を理解しておくと、個別のガイドラインを読むときの見取り図になります。

5. EU AI法と各国の動き

ここからは、最近の大きな動きにふれます。制度は年々変わるため、細部は各機関の最新の公表資料で確かめてください。

いま世界でもっとも注目されている法律のひとつが、EU AI法（イーユーエーアイほう、英語で EU AI Act）です。ヨーロッパ連合が定めた、AIを幅広く対象とする世界初の包括的なAI規制法で、2024年に成立し、同年8月に発効しました。これは、強制力をともなうハードローの代表例です。

EU AI法は、リスクベースアプローチをはっきりと採用しています。AIの用途をリスクの大きさで段階に分けて扱います。

• 許容できないリスク。人を不当に操作するAIや、社会的な格付けに使うAIなどで、原則として禁止されます。
• 高リスク。採用や医療など、人の権利や安全に大きくかかわる用途で、厳しい義務が課されます。
• 限定的なリスク。対話AIなどで、AIであることを利用者に知らせるといった透明性の義務が課されます。
• 最小限のリスク。多くの一般的なAIが当てはまり、特別な義務はほとんどありません。

日本では、法律で厳しく縛るよりも、ソフトローを中心に進める方針がとられてきました。その代表が、国が2024年に公表した「AI事業者ガイドライン」です。これは、AIをつくる人や使う人が守るべき考え方をひとつにまとめた指針です。強制力のある法律ではなく、望ましい行動をしめすソフトローの例です。

このように、ヨーロッパは法律による規制を日本は指針による誘導をそれぞれ軸にしてきました。どちらの進め方にも長所と短所があり、各国がたがいの動きを見ながら制度を整えている段階です。

理解の確認

EU AI法は、リスクベースアプローチを採用したハードローの代表例で、用途を許容できないリスクから最小限のリスクまで段階に分けて扱います。日本のAI事業者ガイドラインは、強制力のないソフトローの例です。国によって、法律を軸にするか指針を軸にするかの違いがあります。

理解度の確認