モニタリング

前提となるAIガバナンスの考え方

AIガバナンスとは、AIに関するリスクを受け入れられる水準に抑えて管理しながら、AIから得られる便益をできるだけ大きくするための体制のことです。AI事業者ガイドラインは、この体制をアジャイル・ガバナンスという進め方で実践するとしています。アジャイル・ガバナンスは、環境やリスクを分析し、ゴールを設定し、それを実現する仕組みを設計し、運用し、評価する、という流れを一度で終わらせず、何度も繰り返すサイクルです。

モニタリングは、このAIガバナンスの中で、AIやその管理の仕組みがどう動いているかを確かめる活動です。AI事業者ガイドライン(第1.1版、令和7年3月28日、総務省・経済産業省)の本編では、少なくとも次の2か所にモニタリングが出てきます。

安全性の確保における位置づけ

AI事業者ガイドラインの本編は、AIに関わる事業者が共通して取り組むべき事柄を共通の指針としてまとめています。その1つである安全性の項に、次の趣旨の記述があります。

• リスクレベルに見合った適切なタイミングで、AIシステムの活用状況のモニタリングを実施する
• それらに対処するための適切な措置を講じる

ここでのモニタリングの対象は、AIシステムがどのように活用されているか、という状況です。AIシステムは作って提供した時点で終わりではなく、実際に使われる中で想定と違う使われ方をしたり、問題が表に出たりすることがあります。そこで、活用状況を確認し、確認した内容に対して必要な措置を取る、という2つがひと組で示されています。

もう1つの要素は、タイミングがリスクレベルに見合ったものとされている点です。すべてのAIシステムを同じ頻度・同じ深さで確認するのではなく、リスクの大きさに応じて、確認するタイミングを適切に決めるという考え方です。

アジャイル・ガバナンスにおける位置づけ

AI事業者ガイドラインの本編は、AIガバナンスの構築について、アジャイル・ガバナンスのサイクルを説明しています。そのサイクルの中に、次の趣旨の記述があります。

• リスクアセスメント等をはじめとして、AIマネジメントシステムが有効に機能しているかを継続的にモニタリングする
• そのうえで、評価及び継続的改善を実施する

ここでのモニタリングの対象は、AIマネジメントシステム、つまりAIのリスクを管理するために組織が設計した仕組みそのものです。仕組みを設計して運用を始めたあと、それが意図どおりに働いているかを確認し続けることが求められています。

この記述で大切なのは、継続的に、という点です。仕組みを作って運用を始めたら、あとは運用しっぱなしにする、という進め方ではありません。運用している間も確認を続け、その結果を評価につなげ、改善していきます。改善された仕組みはまた運用され、確認されます。モニタリングは、アジャイル・ガバナンスのサイクルを回し続けるために、運用から評価へと橋渡しをする役割を持つ活動だといえます。

AIとの関わり

モニタリングという語は、AI事業者ガイドラインの中で、AIシステムの活用状況を確認する場面と、AIマネジメントシステムの働きを確認する場面の両方に出てきます。前者は共通の指針の安全性の項、後者はアジャイル・ガバナンスのサイクルに関する記述です。

このことから、モニタリングは、個々のAIシステムの安全性の確保と、組織としてのAIガバナンスの運用・評価・改善の両方にまたがる、横断的な活動として捉えることができると考えられます。いずれの場面でも、一度確認して終わるのではなく、確認した結果を措置や改善につなげる点が共通しています。

なお、G検定のシラバス2024には、モニタリングが対象のキーワードとして掲載されています。