弱いAI

弱いAIとは何か

弱いAIは、コンピュータと心の関係について、哲学者ジョン・R・サール(John R. Searle)が1980年の論文「Minds, Brains, and Programs」(学術誌 Behavioral and Brain Sciences 掲載)で「強いAI」と「弱いAI」と呼んで区別した2つの立場のうちの1つです。

サールは弱いAIを次のように定義しました。心の研究においてコンピュータが持つ主な価値は、非常に強力な道具になることである。たとえば、コンピュータを使うと、心の働きについての仮説をより厳密で精密な形で立て、検証できる。

この立場は、コンピュータが心の研究に役立つことを認めます。一方で、コンピュータそのものが物事を理解している、あるいは信念や意図のような心の状態を持っている、とは主張しません。サールは論文の中で、少なくともこの論文の範囲では弱いAIの主張に異論はないと明言しています。

対になる強いAIの主張

弱いAIの意味は、サールが同じ論文で対比させた強いAIと並べると分かりやすくなります。

強いAIは、適切なプログラムを与えられたコンピュータは心の研究のための道具にとどまらず、それ自体が文字どおり心である、と主張する立場です。この立場では、正しいプログラムを実行しているコンピュータは本当に物事を理解し、ほかの認知状態も持っていると言えます。さらに強いAIは、そのプログラムこそが人間の心の働きの説明そのものである、とも考えます。

2つの立場の分かれ目は1点です。コンピュータが文字どおり理解していると言い切るかどうかです。弱いAIは、コンピュータが文字どおり理解しているとまでは主張せず、心を研究するための有用な道具として扱います。強いAIは、文字どおり理解していると主張します。サールが論文で反論の対象にしたのは、強いAIの主張だけでした。

サールが検討したプログラム

サールが具体的に取り上げたのは、イェール大学のロジャー・シャンクらが開発した物語理解プログラムです。このプログラムには、レストランで起きた出来事の短い物語を読ませ、物語に書かれていないことを質問します。

たとえば、物語には男がハンバーガーを食べたとは書かれていないのに、「その男はハンバーガーを食べたか」と尋ねます。人間はレストランについての常識を使ってこの質問に答えられます。シャンクのプログラムも、レストランについての知識をデータとして持っているので、人間と同じような答えを返します。

強いAIの支持者は、この結果から2つのことを主張しました。1つ目は、この機械は文字どおり物語を理解しているということです。2つ目は、機械とプログラムの働きが、人間が物語を理解する能力を説明しているということです。サールはこの2つを否定するために、中国語の部屋と呼ばれる思考実験を示しました。

中国語の部屋の仕組み

中国語の部屋は、頭の中で状況を想定して結論を導く思考実験です。手順は次のとおりです。

• 中国語をまったく知らない人が、部屋に閉じ込められます。サールは自分自身をこの人物に置いています。この人にとって中国語の文字は意味のない図形にしか見えず、それが中国語の文字であることさえ見分けられません。
• この人は、中国語の文字が書かれた紙の束を3種類受け取ります。部屋の外の人々は、それぞれを「脚本」「物語」「質問」と呼んでいます。
• この人は同時に、英語で書かれた規則書も受け取ります。英語は母語なので規則書は読めます。規則書には、ある形の記号が来たら別のある形の記号を返す、というように、記号の形だけを手がかりにした対応づけが書かれています。部屋の外の人々は、この規則書を「プログラム」と呼んでいます。
• この人が規則に従って返した中国語の記号を、部屋の外の人々は「質問への答え」と呼びます。
• 規則の操作に十分慣れると、部屋の外から見た中国語の答えは、中国語を母語とする人の答えと見分けがつかなくなります。

サールはさらに、同じ人に英語の物語と英語の質問も渡し、英語で答えさせる場面を加えます。英語の答えも中国語の答えも、外から見れば同じくらい適切です。しかし中身はまったく違います。英語では、この人は内容を理解して答えています。中国語では、記号の意味を何も分からないまま、規則に従って記号を並べ替えているだけです。

部屋の中の人は、コンピュータの役割をそのまま演じています。サールは、中国語に関してはこの人はコンピュータプログラムを実行している1つの実例にすぎない、と述べています。この人が中国語の物語を少しも理解していない以上、同じ規則を実行するコンピュータも物語を理解していない、というのがサールの結論です。

サールはここから、正しいプログラムを実行することは理解の十分条件にならないと主張しました。さらに、プログラムが人間の理解の必要条件であると考える理由も、理解に大きく寄与していると考える理由も見当たらない、と述べています。

構文と意味論の区別

中国語の部屋が示そうとしたことは、構文と意味論という2つの言葉で整理できます。

構文(syntax)とは、記号の形と、記号どうしの並べ方の規則のことです。意味論(semantics)とは、その記号が何を指し、何を意味するかのことです。たとえば「犬」という文字を、画数や並び順の規則だけで扱うのは構文の扱いです。その文字が四本足で吠える動物を指すと分かっているのは、意味論の側の理解です。

サールによれば、コンピュータのプログラムが行っているのは、記号を形だけで識別して操作することです。つまりプログラムには構文しかなく、意味論がありません。サールは論文の中で、形式的な記号操作はそれ自体では何の意味も持たず、記号が何も表していない以上、記号操作とさえ呼べないとまで述べています。

サールはこの点を志向性という言葉でも説明しています。志向性とは、心の状態が何かについてのものであるという性質です。たとえば「雨が降っている」と信じるとき、その信念は雨についての信念です。サールは、コンピュータが志向性を持っているように見えるとしても、それはプログラムを書いた人や、入力を送って出力を解釈する人の心の中にあるだけだと主張しました。

中国語の部屋では、もともと志向性を持つ人間を部屋に入れ、その人にプログラムを実行させています。それでもその人の中国語の理解は少しも増えません。サールはこれを、プログラムが志向性を何も付け加えないことの証拠としました。

弱いAIの立場が成り立つ理由

構文と意味論を区別すると、弱いAIと強いAIの違いがはっきりします。

コンピュータを、心の働きについての仮説を試す道具として使うことは、コンピュータ自体に意味の理解を求めません。記号を形の規則どおりに操作できれば、道具としての役目は果たせます。そのため、構文しか持たないコンピュータでも、弱いAIの主張とは矛盾しません。

一方、強いAIはコンピュータが文字どおり理解していると主張します。サールの見方では、この主張は構文の操作だけで意味論に到達できると想定しており、2つの区別を無視しています。サールが強いAIを退けながら弱いAIには異論を唱えなかったのは、この違いによるものです。

代表的な反論とサールの応答

中国語の部屋に対しては、強いAIの側に立つ研究者から多くの反論が寄せられました。サールは1980年の論文の中で、それまでに受けた反論を6つ紹介し、それぞれに応答しています。ここではそのうち4つを取り上げます。どの反論も、コンピュータに理解を認める余地を探すものです。サールはどの応答でも、形式的な記号操作だけでは理解に届かないという点を崩していません。

システム説

システム説は、部屋の中の人ひとりは中国語を理解していなくても、その人と規則書と記号と計算用の紙を合わせた部屋全体、つまりシステム全体は中国語を理解している、とみなす反論です。

サールは次のように応答しました。部屋の中の人が規則書も記号もすべて暗記し、部屋を使わずに頭の中だけで作業できるようになったと考えてみる。このときシステムのすべてがその人の中に入っているが、その人はやはり中国語を理解していない。その人が理解していない以上、その人の中にあるシステムも理解していない、という主張です。

ロボット説

ロボット説は、コンピュータをロボットに組み込み、カメラで周りを見て、腕や脚で動けるようにすれば、外の世界とのやり取りを通じて記号に意味が結びつき、本当の理解が生まれる、という反論です。

サールは、思考実験を広げてこれに応答しました。部屋の中の人がロボットの内部にいて、カメラからの信号を見知らぬ中国語の記号として受け取り、規則に従って手足を動かす信号を、やはり見知らぬ中国語の記号として送り出すとします。この場合も、その人は形式的な記号操作をしているだけで、ロボットの周りで何が起きているかを理解していません。

脳シミュレーター説

脳シミュレーター説は、中国語を話す人の脳の中で、神経細胞のつなぎ目であるシナプスがどう働くかを忠実に再現するプログラムであれば、本当の理解が生まれるはずだ、という反論です。

サールは、部屋の中の人が水道管とバルブの集まりを操作する形に思考実験を変えました。1本1本の水道管がシナプスに対応し、その人は英語の指示書に従って特定のバルブを開け閉めします。それでも、その人も水道管の集まりも中国語を理解しません。サールによれば、このプログラムが再現しているのは脳の形式的な構造だけです。志向性を生み出す脳の因果的な力、つまり脳が物理的に働くことで心の状態を生み出す力は再現していません。

他者の心説

他者の心説は、他人が中国語を理解していることも、私たちはその人の振る舞いからしか知ることができない、という点を突く反論です。コンピュータが人間と同じ振る舞いのテストに合格するなら、同じ基準でコンピュータにも心の状態を認めるべきだ、と主張します。

サールは、この反論は問題を取り違えていると応答しました。問われているのは、他人に心の状態があることを私たちがどうやって知るかではありません。心の状態があると言うとき、私たちは何がそこにあると言っているのかです。サールの論点は、計算の過程とその出力だけでは足りない、ということです。心の状態がまったく無くても、計算の過程と出力だけは存在しうる、とサールは考えました。

論文ではこのほかに、上の反論を組み合わせる組み合わせ説と、将来は脳と同じ因果的な過程を持つ装置が作られうるとする多様な家説も紹介されています。多様な家説についてサールは、その主張自体には異論はないとしたうえで、この反論は強いAIの主張を、計算の過程についての明確で検証できる仮説から別のものに言い換えてしまっていると指摘しています。

技術用語としての弱いAIとの違い

現在のAIの解説では、「弱いAI」が特化型AI(narrow AI)の意味で使われることがあります。特化型AIとは、画像認識や翻訳のように、決められた範囲の課題を解くために作られたAIのことです。

たとえば、米国シラキュース大学の情報学大学院による解説は、narrow AIを弱いAIと呼び、特定のタスクや定められた範囲の問題を解くために設計されたシステムと説明しています。同じ解説は、汎用AI(General AI)を強いAIやAGI(Artificial General Intelligence、汎用人工知能)と呼び、異なる課題をまたいで知識を使い、学び、考えることのできる、現時点では理論上の概念としています。この解説はサールの議論に一切触れていません。弱いAIと強いAIという語が、サールの区別とは独立に、能力の範囲による分類として使われている例です。

この技術的な用法とサールの哲学的な用法は、別の問いを扱っています。特化型AIと汎用AIの区別は、AIがどれだけ幅広い課題をこなせるかという能力の範囲の区別です。サールの弱いAIと強いAIの区別は、コンピュータが本当に理解しているかどうかという区別です。サールの立場から見れば、幅広い課題をこなせるAIが作られたとしても、それが構文の操作だけで動いているなら、理解しているとは言えません。

同じ語が2つの意味で使われるようになった経緯は、一部が分かっています。AGIの研究者ベン・ゲーツェルは、2014年に学術誌 Journal of Artificial General Intelligence に掲載された論文で、未来学者のレイ・カーツワイルが2006年に、特定の文脈で特定の知的な振る舞いをするシステムをnarrow AIと呼んだと説明しています。ゲーツェルによれば、カーツワイルはもともと、このnarrow AIの対になる語として strong AI を使っていました。ゲーツェルは、strong AIという語にはサールの1980年の論文に由来する別の確立した意味がすでにあるため、この使い方は据わりが悪いと指摘しています。

ただし、カーツワイルの用法が技術的な意味での強いAIや弱いAIの唯一の出どころかどうかは、確認できていません。また、ゲーツェルの指摘は強いAIという語についてのものです。弱いAIが特化型AIの意味で使われるようになった経緯を直接述べた資料は、確認できていません。

現在の議論

中国語の部屋の論証は、発表から40年以上たった現在も決着していません。

スタンフォード哲学百科事典(Stanford Encyclopedia of Philosophy)の項目「The Chinese Room Argument」は、構文と意味論の関係や、志向性が理解に本当に必要な性質かどうかを、今も開かれた論点として扱っています。同項目によれば、プログラムの形式的な操作だけでなく、それを実行する物理的なシステムの因果的な性質も重要だという認識は、サールに批判的な論者の側にもある程度広がっています。

同項目は、大規模言語モデルを使ったチャットボットが言語の課題で人間並みの性能を示すようになったことも取り上げています。外から観察できる振る舞いが人間と見分けにくくなるにつれて、本物の理解と振る舞いのうえでの能力とを実際に区別することが難しくなっている、という指摘です。こうしたシステムを弱いAIの意味での道具とみるか、何らかの理解を持つとみるかについては、議論が続いています。