人間の自律性

人間中心のAI社会原則における位置づけ

日本政府は、平成31年3月29日の統合イノベーション戦略推進会議で人間中心のAI社会原則を決定しました。その原則の一つである人間中心の原則は、まず次のように述べています。

> AIの利用は、憲法及び国際的な規範の保障する基本的人権を侵すものであってはならない

そのうえで、AIの使い方を誰が決めるのかについて、次のように書いています。

> AIの利用にあたっては、人が自らどのように利用するかの判断と決定を行うことが求められる

この文が求めているのは、AIを使うかどうか、どのように使うかを、人が自ら判断して決めることです。AIが出した結果をそのまま受け入れるのではなく、利用の判断と決定を人の側に置くという考え方が示されています。

EU HLEGにおける位置づけ(Respect for human autonomy)

欧州委員会が設置したAIに関する専門家グループ(High-Level Expert Group on AI、略してHLEG)は、2019年にEthics Guidelines for Trustworthy AI(信頼できるAIのための倫理ガイドライン)を公表しました。その中のRespect for human autonomy(人間の自律性の尊重)の節に、次の記述があります。英語の原文は次のとおりです。

> Humans interacting with AI systems must be able to keep full and effective self-determination over themselves, and be able to partake in the democratic process. AI systems should not unjustifiably subordinate, coerce, deceive, manipulate, condition or herd humans. Instead, they should be designed to augment, complement and empower human cognitive, social and cultural skills.

執筆者による参考訳は次のとおりです。

> AIシステムと関わる人間は、自分自身について完全かつ実効的な自己決定を保持でき、民主的なプロセスに参加できなければならない。AIシステムは、人間を不当に従属させたり、強制したり、欺いたり、操作したり、条件づけたり、誘導したりしてはならない。むしろ、人間の認知的・社会的・文化的な能力を拡張し、補完し、強化するように設計されるべきである。

この節の要点は次の3つに整理できます。

1. 人間が自己決定を保持できること

原文の最初の文は、AIシステムと関わる人間が、自分自身について完全かつ実効的な自己決定(full and effective self-determination)を保持できなければならない、と述べています。形の上で決める権利があるだけでなく、実際に自分で決められる状態が保たれていることが求められています。同じ文では、民主的なプロセスに参加できることもあわせて挙げられています。

2. AIシステムが人間を不当に従属させたり操作したりしないこと

2つ目の文は、AIシステムがしてはならないこととして、次の6つの動詞を並べています。

これらの前には unjustifiably(不当に)という語が付いています。原文は、不当なかたちで人間をこうした状態に置いてはならない、という書き方をしています。

3. 人間の能力を拡張・補完・強化するように設計されること

3つ目の文は Instead(むしろ)で始まり、AIシステムは人間の認知的・社会的・文化的な能力(cognitive, social and cultural skills)を拡張し(augment)、補完し(complement)、強化する(empower)ように設計されるべきだ、と述べています。人間に代わって決めるのではなく、人間の力を支える方向での設計が求められています。

2つの資料に共通する考え方

日本の人間中心のAI社会原則と、EUのEthics Guidelines for Trustworthy AIは、書き方は異なりますが、AIが人の判断や自己決定を奪ったり操作したりしてはならない、という点で方向性が重なっています。

日本の原則はAIの利用について判断と決定を行うのは人であることを示し、EUのガイドラインはAIシステムと関わる人間の自己決定を保つことと、AIシステムの側がしてはならないことを具体的な動詞で示しています。どちらも、判断と決定の主体を人間に置くという考え方で共通しています。

AIとの関わり

AIシステムは、情報の推薦、選択肢の提示、判断の補助など、人の意思決定に関わる場面で使われるようになっています。AIが人の意思決定に強く関わる場面が増えるほど、人が自分で判断し決定する余地をどのように保つかが課題として意識されやすくなると考えられます。人間の自律性は、こうした場面でAIの設計や利用のあり方を考えるときの観点の一つとして、日本とEUの2つの資料に示されています。