リスクベースアプローチ

なぜリスクベースアプローチが要るのか

AIの利用には、相反する2つの心配があります。

1つ目は、対策が足りないことによる心配です。AI事業者ガイドライン(第1.1版、令和7年3月28日、総務省・経済産業省)は、AIの利用は分野や利用形態によっては社会に大きなリスクを生じさせることがあると述べています。そのリスクから社会的な軋轢が生まれれば、AIの利活用そのものが妨げられるおそれもあります。

2つ目は、対策が行き過ぎることによる心配です。同じガイドラインは、過度な対策を講じることも、AIの活用そのものやAIの活用で得られる便益を妨げてしまうおそれがあると述べています。

つまり、対策が少なすぎても多すぎても、AIの活用は妨げられうるということです。すべてのAIの利用に一律に最も厳しい対策を求めると、リスクの小さな利用まで重い負担を負い、便益が失われます。反対に、すべてを一律に緩くすると、リスクの大きな利用で深刻な問題が起きかねません。このトレードオフにどう折り合いを付けるかという問いに対する答えとして示されているのが、リスクベースアプローチです。

リスクベースアプローチの中身

ガイドラインの説明は、2つの手順に分けて読むと分かりやすくなります。

手順1 事前にリスクの大きさを把握する

まず、ある利用分野でAIをどのような形で使うのかを踏まえ、そこから生じうるリスクの大きさを前もって把握します。問題が起きてから考えるのではなく、事前に見積もるという点が大切です。

ガイドラインは、リスクの大きさを次の2つの要素で表しています。

• 危害の大きさ: もし問題が起きたら、人や社会にどれほど重い害が及ぶか
• その蓋然性: その害がどのくらい起こりやすいか

2つの要素を組み合わせて見るのは、片方だけではリスクの大きさを正しく捉えられないからです。たとえば、起これば害は重いものの、めったに起こらない場合があります。反対に、よく起こるものの、害はごく軽い場合もあります。害が重く、しかも起こりやすい利用が、最もリスクの大きい利用になります。2つの要素を掛け合わせるように組み合わせて考えると、この関係を理解しやすくなります。なお、ガイドラインの該当箇所は2つの要素を挙げており、それらを数値で掛け算する計算式までは示していません。

手順2 対策の程度をリスクの大きさに対応させる

次に、把握したリスクの大きさに合わせて対策の程度を決めます。リスクが大きい利用には手厚い対策を講じ、リスクが小さい利用には、それに見合った程度の対策にとどめます。

こうすることで、リスクの大きな利用による社会的な軋轢を防ぎながら、リスクの小さな利用に過度な対策を求めて便益を損なうことも避けられます。前の節で見た、対策が少なすぎる場合と多すぎる場合という2つの心配に、同時に応えようとする考え方だといえます。

AIとの関わり

AI事業者ガイドラインは、このリスクベースアプローチの考え方がAI先進国間で広く共有されているものだと述べています。したがって、日本独自の考え方としてではなく、国際的に共有された考え方の1つとして理解しておくとよいでしょう。

国外の例として、EUのAI法(AI Act)は、AIがもたらすリスクの大きさに応じて規制の段階を分ける仕組みを持ち、4つの分類を置いているとされます。これもリスクの大きさに応じて扱いを変えるという発想に沿った例と位置づけられることがあります。ただし、ここで扱う一次資料はAI事業者ガイドラインのみであり、EU AI法の各分類の中身については本ページでは扱いません。

G検定のシラバス2024では、リスクベースアプローチが対象キーワードとして掲載されています。