強いAI

誰が、何を主張したものか

「強いAI」は、哲学者ジョン・R・サール(John R. Searle)が1980年の論文「Minds, Brains, and Programs」(学術誌 Behavioral and Brain Sciences 掲載)で「強いAI」と「弱いAI」と呼んで区別した立場の一方です。サール自身は強いAIを支持していません。この論文は、強いAIを批判するために書かれました。

サールの定義では、強いAIとは「適切にプログラムされたコンピュータは、心を研究するための道具にとどまらず、それ自体が本当に心である」とする主張です。この立場では、正しいプログラムを与えられたコンピュータは文字どおりの意味で「理解している」と言え、ほかの認知状態(信じる、意図するといった心の状態)も持つとされます。さらに強いAIは、プログラムは心理学の説明を試すための道具ではなく、プログラムそのものが人間の認知の説明になる、とも主張します。

対になる立場としての弱いAI

サールは同じ論文で、これと対になる「弱いAI」とも呼んで区別しています。弱いAIは、コンピュータが心の研究にとって強力な道具になるという控えめな主張です。例えば、心についての仮説をより厳密に立て、検証する手段としてコンピュータを使う、という考え方がこれにあたります。弱いAIは、コンピュータの内部で本物の理解が起きているとは主張しません。

サールは、弱いAIには異論がないと明言しています。論文が批判の対象にしたのは、強いAIの2つの主張です。1つは「適切にプログラムされたコンピュータは文字どおり認知状態を持つ」という主張です。もう1つは「そのプログラムが人間の認知を説明する」という主張です。

中国語の部屋という思考実験

サールは強いAIを批判するために、「中国語の部屋」と呼ばれる思考実験を示しました。念頭にあったのは、イェール大学のロジャー・シャンクらが作った物語理解プログラムです。このプログラムはレストランでの出来事を書いた物語を読み、物語に明記されていない質問、例えば「その男はハンバーガーを食べたか」に対して、人間と同じような答えを返しました。強いAIの支持者は、このときプログラムは物語を文字どおり理解しており、その働きが人間の理解の仕組みを説明している、と考えます。

思考実験の手順は次のとおりです。

• 中国語をまったく知らない英語話者が、部屋に閉じ込められる。この人にとって中国語の文字は、意味の分からない図形の並びにすぎない。
• 中の人は、中国語の文字が書かれた紙の束をいくつかと、それらを対応づけるための英語の規則書を受け取る。規則書は、記号を形だけで見分けて、どの記号にどの記号を対応させるかを指示している。
• 中国語の質問の束が渡されると、中の人は規則書に従って記号を組み合わせ、特定の形の中国語の記号を返す。外の人々は、この規則書を「プログラム」、返された記号を「質問への答え」と呼んでいる。
• 規則の操作に十分慣れると、外から見た中国語の答えは、中国語を母語とする人の答えと見分けがつかなくなる。

サールの論点は、このとき部屋の中の人が中国語を少しも理解していないことにあります。同じ人が英語の物語と英語の質問を受け取った場合は、内容を理解したうえで答えています。外から見れば英語の答えも中国語の答えも同じくらい良い答えですが、中国語の場合、中の人は意味を解釈しないまま形式的な記号を操作しているだけです。中の人はコンピュータのプログラムを実行している状態と同じなので、サールは「シャンクのプログラムも何も理解していない」と結論しました。

構文と意味論の区別

この議論の中心には、構文と意味論の区別があります。構文(syntax)は記号の形と並べ方の規則を指し、意味論(semantics)は記号が何を指し、何を意味するかを指します。サールは、プログラムが行う形式的な記号操作は構文だけを持ち、意味を持たないと論じました。コンピュータが意味を扱っているように見えるのは、プログラムを書く人と出力を解釈する人の心の中に意味があるからだ、というのがサールの説明です。

サールは論文の要旨で、議論を次の筋道で組み立てています。

• 人間の志向性は、脳の因果的な性質から生まれる。志向性とは、心の状態が何かについてのものであるという性質で、例えば「雨について考える」の「について」にあたる。
• プログラムを実行することだけでは、志向性が生まれる十分条件にはならない。
• したがって、志向性を人工的に作るには、プログラムを設計するだけでは足りず、脳と同等の因果的な力を持つ仕組みが必要になる。

サールは「機械は考えられるか」という問いに対し、考えられるのは脳か、脳と同等の因果的な力を内部に持つ特別な機械だけだと答えています。つまりサールが否定したのは、機械が考えることそのものではありません。否定したのは、正しいプログラムを実行することがそれだけで考えることの十分条件になる、という強いAIの主張です。

反論とサールの応答

原論文は、発表当時に各大学の研究者から寄せられた6つの反論を取り上げ、それぞれに応答しています。代表的な4つを挙げます。

• システム説: 部屋の中の人単体は理解していなくても、規則書や記号を含む部屋全体のシステムは理解している、という反論です。サールは、中の人が規則書と記号をすべて暗記し、部屋なしで作業できるようにしても、その人はやはり中国語を理解しないと応じました。
• ロボット説: コンピュータをロボットに載せ、カメラで外界を見て手足で動けるようにすれば、記号が外界と結びついて本物の理解が生まれる、という反論です。サールは、カメラからの信号も手足への命令も中の人には意味の分からない記号として届くので、状況は変わらないと応じました。
• 脳シミュレーター説: 中国語話者の脳の神経細胞の発火パターンを忠実に再現するプログラムなら理解が生じる、という反論です。サールは、水道管とバルブの開け閉めで神経の働きを模しても中国語の理解は生じないとしました。プログラムが写しているのは脳の形式的な構造だけで、志向性を生む因果的な性質ではない、というのが理由です。
• 他者の心説: 他人が理解しているかどうかも行動からしか分からないのだから、同じ行動を示すコンピュータにも理解を認めるべきだ、という反論です。サールは、問題は他人の心をどう知るかではなく、認知状態を認めるときに何を認めているかだと応じました。計算過程と出力だけなら、認知状態がなくても存在しうるからです。

現在の扱い

中国語の部屋をめぐる議論は、1980年以降も決着していません。スタンフォード哲学百科事典(Stanford Encyclopedia of Philosophy)の項目「The Chinese Room Argument」は、原論文とは別の分類で反論を整理しています。そこでは、システム説の派生として部屋の操作者とは別の新しい心が生まれるとする考え方や、理解についての人間の直感そのものが技術の進歩で変わりうるとする反論も扱われています。

同じ項目によれば、単純な記号操作だけでは理解が生まれないという点は、従来型のルールに基づくAIについては広く受け入れられているとみられます。一方で、志向性が本当に理解に必要な性質なのかという問いは開いたままです。また、大規模言語モデルが言語の課題で人間並みの成績を出すようになり、本物の理解と振る舞いとしての能力の区別が実際には付けにくくなっている、という指摘もこの項目にあります。現在の言語モデルが理解しているかどうかについて、強いAIの側と批判の側のどちらかに決着したわけではありません。

現在の業界用語としての「強いAI」

今日のAIの解説では、「強いAI」が汎用人工知能とほぼ同じ意味で使われることがあります。汎用人工知能(AGI、Artificial General Intelligence)は、人間のようにさまざまな課題をこなせる汎用的なAIを指す語です。この用法での対になる語は、特定の課題に特化したAI(特化型AI、narrow AI)を指す「弱いAI」です。

この用法の背景は、AGIの研究者ベン・ゲーツェル(Ben Goertzel)が2014年の論文(学術誌 Journal of Artificial General Intelligence 掲載)で説明しています。レイ・カーツワイル(Ray Kurzweil)は2006年の文献で、特定の文脈で特定の知的な振る舞いをするシステムを「narrow AI」と呼びました。ゲーツェルの脚注によれば、カーツワイルはもともと、このnarrow AIの対になる語として「strong AI」を使っていました。ゲーツェルはこの使い方を「据わりが悪い」と評しています。strong AIという語には、AIと認知科学の文献で、サールの1980年の論文に由来する別の意味がすでに定着していたからです。つまり、こなせる課題の広さを表すstrong AIと、コンピュータが心を持つかを表すサールのstrong AIが、同じ語で重なったことになります。

同じ論文によれば、「Artificial General Intelligence」という語は2002年に研究者のシェーン・レッグが提案し、2005年に出版された編著の書名として使われたのち、narrow AIの対になる語として広まりました。ただし、カーツワイルの用法が、哲学の語が技術的な意味で使われるようになった唯一の経路なのか、ほかの論者も独立に同じ使い方をしたのかは、確認できていません。

現在の教育機関の解説には、サールの議論に触れずに、能力の範囲だけでAIを分類するものもあります。例えば米国シラキュース大学の情報学大学院(School of Information Studies)の解説記事は、特化型AI(弱いAI)を、特定の課題や決められた範囲の問題を解くために設計され、1つの分野に限られたシステムと説明しています。一方で汎用AI(強いAI、AGI)は、さまざまな課題にわたって知識を応用し、学び、考えられる、現時点では理論上の概念と説明しています。この記事は、サールの1980年の区別には言及していません。

サールの定義は「プログラムを実行するコンピュータが本当に心を持つか」という心の哲学の問いであり、「どれだけ多くの課題をこなせるか」という能力の範囲の問いではありません。人間並みに多くの課題をこなすAIがあっても、サールの意味では、それだけで心を持つことにはなりません。解説の中には、強いAIとAGIを同じ語として扱うものと、関連はするが別の概念として区別するものの両方が見られます。「強いAI」という語に出会ったときは、心の有無を問う哲学の意味なのか、能力の広さを表す技術の意味なのかを、文脈から見分ける必要があります。