AI ガバナンス

AIガバナンスとは

AIガバナンスは、AIを開発・提供・利用する組織や社会が、AIに関するリスクをステークホルダーにとって受容可能な水準で管理しつつ、そこからもたらされる便益を最大化するための取組みです。総務省と経済産業省によるAI事業者ガイドライン(第1.1版、令和7年3月28日)は、こうしたAIガバナンスの構築が重要であると述べています。

この位置づけには、2つの側面が同時に含まれています。

• リスクの管理: リスクをゼロにすることではなく、ステークホルダーにとって受容可能な水準に収めることが目標とされています
• 便益の最大化: リスクを避けるためにAIを使わないのではなく、AIがもたらす便益をできるだけ大きくすることも目的に含まれています

つまりAIガバナンスは、AIを止めるための仕組みではなく、リスクと便益の釣り合いを取りながらAIを使っていくための仕組みとして位置づけられています。

アジャイル・ガバナンスという考え方

AI事業者ガイドラインは、AIガバナンスの進め方として、事前にルールや手続が固定されたAIガバナンスではなく、アジャイル・ガバナンスの実践が重要であるとしています。

アジャイル・ガバナンスとは、企業、法規制、インフラ、市場、社会規範といった様々なガバナンスシステムにおいて、次の5段階のサイクルを、マルチステークホルダーで継続的かつ高速に回転させていく考え方です。

1. 環境・リスク分析: AIシステムやサービスがもたらしうる便益やリスク等を踏まえて分析します
2. AIガバナンス・ゴールの設定: AIを開発・提供・利用するか否かを判断し、ポリシーの策定等を通じてゴールを検討します
3. システムデザイン: 設定したゴールを実現するための仕組みを設計する段階です
4. 運用: 設計した仕組みを実際に運用する段階です
5. 評価: 運用の結果を評価する段階です

この5段階は一度通れば終わりの手順ではなく、サイクルとして繰り返し回すものとされています。ポイントは次の3つです。

• ルールを事前に固定しない: 最初に決めたルールや手続に縛られず、サイクルを回しながら見直していきます
• 継続的かつ高速に回す: 一度きりではなく、繰り返し、速いペースで回すことが求められています
• マルチステークホルダーで回す: 一つの組織だけで閉じず、多様なステークホルダーが関わって回すことが求められています

また、対象は企業の中だけに限られず、法規制、インフラ、市場、社会規範といった様々なガバナンスシステムが挙げられている点にも注意が必要です。

対になる語であるAI倫理との違い

AI倫理とは、AIの開発や利用にあたって何を大切にすべきかという価値の判断のことです。日本では、人間中心のAI社会原則が示す基本理念とAI社会原則が、その代表的な内容にあたります。

これに対してAIガバナンスは、そうした価値を、組織や制度の仕組みによって実際に守っていく体制です。両者の関係は次のように整理できます。

価値の判断があっても、それを守るための仕組みがなければ、価値は実際の開発や利用に反映されにくくなります。反対に、仕組みだけがあっても、何を守るための仕組みなのかという価値の判断がなければ、ゴールを設定できません。AI倫理が目指す方向を示し、AIガバナンスがその方向へ実際に進むための体制を担う、という役割の違いとして押さえておくと、2つの語を区別しやすくなります。

なお、シラバス2024では、AIガバナンスが対象キーワードとして掲載されています。