人間の関与

人間中心のAI社会原則における位置づけ

人間中心のAI社会原則(平成31年3月29日、統合イノベーション戦略推進会議決定)は、第2章でAI社会原則を示しています。その最初が(1)人間中心の原則です。

人間中心の原則は、まず次のように述べています。

『AIの利用は、憲法及び国際的な規範の保障する基本的人権を侵すものであってはならない』

続けて、AIを使う場面での人の役割について、次のように述べています。

『AIの利用にあたっては、人が自らどのように利用するかの判断と決定を行うことが求められる』

つまりこの原則では、AIをどう使うかを決めるのはAIではなく人である、という考え方が示されています。AIが便利な道具であっても、その使い方の判断と決定を人が自ら行うことが求められている点が、人間の関与という考え方の土台の一つになっています。

AI事業者ガイドラインにおける位置づけ(人間の判断の介在)

AI事業者ガイドライン(第1.1版、令和7年3月28日、総務省・経済産業省)は、本編の共通の指針のうち公平性の項に、人間の判断の介在という項目を置いています。条文は次のとおりです。

『AIの出力結果が公平性を欠くことがないよう、AIに単独で判断させるだけでなく、適切なタイミングで人間の判断を介在させる利用を検討する。なおその際には、人間の判断が自動化バイアスに左右されないような対策を講じるべきである』

この条文には、二つの内容が含まれています。

一つ目の内容:人間の判断を介在させる利用の検討

一つ目は、AIの出力結果が公平性を欠くことがないよう、AIに単独で判断させるだけでなく、適切なタイミングで人間の判断を介在させる利用を検討する、という内容です。この項目は公平性の項に置かれており、目的として、AIの出力結果が公平性を欠くことがないようにすることが書かれています。また、条文の文末は検討する、となっています。どのタイミングが適切かについて、条文は具体的な場面を挙げていません。

二つ目の内容:自動化バイアスへの対策

二つ目は、人間の判断を介在させる際に、その人間の判断が自動化バイアスに左右されないような対策を講じるべきである、という内容です。

自動化バイアスについて、ガイドラインは脚注で次のように説明しています。

『人間の判断や意思決定において、自動化されたシステムや技術への過度の信頼や依存が生じる現象を指す』

人間がAIの判断に関わる仕組みを置いても、その人間が自動化されたシステムを過度に信頼したり、依存したりしていれば、AIの出力をそのまま受け入れてしまうおそれがあります。そのためガイドラインは、人間の判断を介在させることに加えて、その人間の判断が自動化バイアスに左右されないような対策も講じるべきである、としています。人間を関わらせることと、その人間が自分で判断できる状態を保つことが、一組で示されている点に注意が必要です。

AIとの関わり

人間の関与は、G検定のシラバス2024に対象キーワードとして掲載されています。この用語集では、上で見た二つの日本の文書を根拠として説明しました。

海外にも、名前の似た考え方があります。たとえば、EU AI法にはhuman oversight(人間の監督)という考え方があります。ただし、この用語集では日本語の仮訳を確認できていないため、その中身には立ち入りません。日本の文書でいう人間の関与や人間の判断の介在と同じ内容であるかどうかも、ここでは判断しません。名前が似ていることから、混同しないように整理しておくとよいでしょう。