中国語の部屋

中国語の部屋とは何か

中国語の部屋(Chinese Room)は、アメリカの哲学者ジョン・R・サール(John R. Searle)が1980年に学術誌 Behavioral and Brain Sciences に発表した論文「Minds, Brains, and Programs」で示した思考実験です。思考実験とは、実際に実験装置を用意する代わりに、仮の状況を頭の中で細かく想定し、そこから何が言えるかを確かめる議論の方法です。

サールがこの思考実験を持ち出した目的は、ある種の人工知能観を批判することでした。その人工知能観を、サールは「強いAI」と呼びました。強いAIとは、適切なプログラムを実行するコンピュータは、心を研究するための道具にとどまらず、それ自体が文字どおり理解し心を持つ、という主張です。これに対してサールは、コンピュータを心の研究に役立つ強力な道具とみなすにとどめる控えめな立場を「弱いAI」と呼び、こちらには異論がないとしました。中国語の部屋は、強いAIの「プログラムを正しく実行すれば理解が成り立つ」という主張を崩すために組み立てられています。

出発点になったプログラム

サールが念頭に置いていたのは、イェール大学のロジャー・シャンク(Roger Schank)らが作った物語理解のプログラムです。このプログラムには、たとえばレストランでの出来事を書いた短い物語を読ませ、物語に明記されていない内容についての質問に答えさせます。「客は料理を食べたか」のように、書かれていないが人間なら常識で推測できる質問に正しく答えられることから、プログラムが物語を理解していると主張する立場がありました。サールはこの主張を検討するために、プログラムの役割を人間が代わりに演じる状況を考えました。

思考実験の設定

思考実験の手順は次のとおりです。

• 中国語をまったく知らない人物が、部屋に閉じ込められます。サールはこの人物を自分自身として描いています。
• その人物は、中国語の文字が大量に書かれた紙の束を受け取ります。本人にとって中国語の文字は、意味の分からない図形の並びにしか見えません。
• 続いて2つ目の中国語の束と、それを最初の束と対応づけるための英語の規則書を受け取ります。規則書は記号の形だけを手がかりにして対応づける書き方になっており、記号の意味は一切説明していません。
• さらに3つ目の中国語の束と、それを前の2つの束と照らし合わせて特定の中国語の記号を書いて返すための英語の規則書を受け取ります。
• 部屋の外にいる人々は、1つ目の束を「脚本」、2つ目を「物語」、3つ目を「質問」、返される記号を「質問への答え」、規則書を「プログラム」と呼んでいます。部屋の中の人物は、そう呼ばれていることを知りません。
• 同じ人物は、英語で書かれた物語と質問も受け取り、英語で答えます。英語は母語なので、こちらは内容を理解して答えています。
• 作業に慣れてくると、中国語の答えも英語の答えも、部屋の外から見れば母語話者と見分けがつかない出来になります。

論証が示そうとしていること

この設定で、外から見た受け答えの質は英語でも中国語でも同じように良く見えます。しかし部屋の中で起きていることはまったく違います。英語では、人物は物語と質問の意味を理解して答えています。中国語では、記号の意味を一つも分からないまま、規則書に従って記号の形を操作しているだけです。サールは、中国語の作業については自分はコンピュータプログラムを実際に動かしている一つの実例にすぎない、と述べています。

ここからサールは次の結論を導きます。

• 部屋の中の人物は、中国語をまったく理解していない。
• コンピュータもこの人物と同じことをしているだけなので、同じ理由でプログラムを実行するコンピュータも物語を理解していない。
• したがって、プログラムを実行することは理解が成り立つための十分条件ではない。さらにサールは、理解にとって必要条件だと考える理由も、有意な寄与をしていると考える理由も見当たらないと述べました。

構文と意味論の区別

この論証の中心にあるのが、構文と意味論の区別です。構文(syntax)とは、記号の形と、記号をどう並べ替えるかという形式上の規則のことです。意味論(semantics)とは、記号が何を指し、何を意味するかという内容のことです。

サールによれば、形式的な記号操作それ自体には志向性がありません。志向性とは、心の状態が何かについてのものであるという性質のことで、たとえば「雨が降っていると信じる」という心の状態は、雨についての状態です。部屋の中の人物が扱う記号は、本人にとって何も指していないので、構文はあっても意味論はありません。コンピュータが何かを理解しているように見えるとしても、その意味は、プログラムを書いた人や、入力を与えて出力を解釈する人の心の中にあるだけだ、とサールは述べました。

具体例で言い換えると、規則書に「この形の記号の列が来たら、あの形の記号の列を返せ」とだけ書かれている場合、返された答えが「はい、客は料理を食べました」という意味の中国語だったとしても、部屋の中の人物は客も料理も思い浮かべていません。意味を読み取っているのは、答えを受け取った部屋の外の中国語話者です。

代表的な反論とサールの応答

サールは論文の中で、発表前に他の研究者から寄せられた反論を6つ取り上げ、それぞれに応答しています。6つとは、システム説、ロボット説、脳シミュレーター説、組み合わせ説、他者の心説、多くの住まいがあるという反論(Many Mansions reply)です。ここではよく取り上げられるものを中心に紹介します。

• システム説: 部屋の中の人物は理解していなくても、人物と規則書と紙の束をまとめた部屋全体というシステムが中国語を理解している、という反論です。サールは、人物が規則書と紙の束をすべて暗記して頭の中だけで作業するようにしても、やはり中国語は理解していないと応答しました。システム全体が人物の中に収まっても、理解は生まれないという主張です。
• ロボット説: コンピュータをロボットに組み込み、カメラで外界を見たり手足で動いたりできるようにすれば、理解が生まれる、という反論です。サールは、カメラなどから入ってくる情報も部屋の中の人物にとっては意味の分からない記号が増えるだけであり、理解は生まれないと応答しました。
• 脳シミュレーター説: 物語の内容ではなく、中国語話者の脳の神経細胞がどう発火するかをそのまま真似るプログラムなら、理解していると言える、という反論です。サールは、脳の形式的な構造を真似ても、脳が理解を生み出している因果的な力までは再現できないと応答しました。
• 他者の心説: 人間が他人の心を知る手がかりも結局は振る舞いしかないのだから、同じ振る舞いをするコンピュータにも理解を認めるべきだ、という反論です。サールは、問題は他人に理解があるとどうやって知るかではなく、理解があると言うときに何を認めているかであり、それは記号操作だけではないと応答しました。

組み合わせ説は、ロボット説、脳シミュレーター説、システム説をすべて合わせたものです。多くの住まいがあるという反論(Many Mansions reply)は、将来、脳と同じ因果的な過程を持つ装置が作られれば、それも人工知能と呼べるはずだ、という反論です。サールは後者に対して、それは強いAIの主張をプログラムとは関係のない話へ言い換えてしまうものだと応じました。

現在の扱われ方

中国語の部屋は、発表から40年以上たった今も、人工知能と心の哲学の分野で議論が続いている題材です。スタンフォード哲学百科事典(Stanford Encyclopedia of Philosophy)の項目「The Chinese Room Argument」は、サールの挙げた反論に加えて、部屋の中に人物とは別の仮想的な心が生まれているとする仮想心説や、理解についての人間の直感そのものが技術の進歩で変わりうるとする直感説など、その後の反論も整理しています。

同じ百科事典は、大規模言語モデルが登場して外から見た振る舞いが人間と見分けにくくなったことで、本物の理解と振る舞いの上での能力を区別することが実際には難しくなっている、という点も取り上げています。構文から意味論は生まれるのか、志向性はどこから来るのかという問いは決着していません。一方で、決められた規則で記号を操作するだけの従来型のルールベースAIについては、それだけでは理解が生まれないという見方が広く受け入れられているとみられます。

また、中国語の部屋は、チューリングテストと並べて論じられることがよくあります。チューリングテストは、アラン・チューリングが1950年に提案した、外から見た受け答えが人間と区別できるかどうかで機械の知能を判定しようとする方法です。部屋の中の人物は、外から見れば中国語話者と区別がつかないのに中国語を理解していません。このため中国語の部屋は、チューリングテストのような振る舞いによる判定に合格しても、理解があるとは限らないことを示す議論として位置づけられています。