知能をめぐる問い：機械は考えられるのか

ねらい

このレッスンでは、「機械は考えられるのか」という問いをめぐる代表的な議論を学びます。

基礎

ふるまいから知能を判定するチューリングテストと、それに反論した中国語の部屋の思考実験をつかみます。

1. ふるまいから知能を判定するチューリングテスト

「機械は考えられるか」という問いには、確かめ方そのものの難しさがあります。相手が人間であっても、頭の中を開いて「考え」を取り出して見せることはできません。私たちが他人に知能を認めるとき、実際に頼っているのは、その人の言葉や行動、つまり外から見えるふるまいです。

この点に着目して、「考えるとは何か」という答えの出ない定義の議論を避け、確かめられる形に問いを置き換えたのが、数学者のアラン・チューリングです。チューリングが1950年の論文で提案した判定方法は、次のようなものでした。人間の判定者が、姿の見えない相手と文字だけで会話します。相手は人間のこともあれば、機械のこともあります。会話を重ねても、判定者が機械を人間と見分けられなければ、その機械は知能を持つとみなします。この判定方法が、チューリングテストと呼ばれます。

チューリングテストの特徴は、機械の中身がどう作られているかを問わず、外から見たふるまいだけで知能を判定する点にあります。知能を頭の内側の性質としてではなく、外にあらわれるふるまいとして捉え直した発想でした。

2. 記号の操作と意味の理解を切り分ける中国語の部屋

うまく受け答えできることと、意味を理解していることは、同じなのでしょうか。この点に正面から疑問を投げかけたのが、哲学者のジョン・サールが示した中国語の部屋という思考実験です。

中国語をまったく知らない人が、小さな部屋に入っています。部屋には分厚い規則集が置いてあり、そこには「この形の記号の並びが来たら、あの形の記号の並びを書いて返す」という、記号（シンボル）を機械的に操作する規則だけが書かれています。外の人が中国語の質問を紙に書いて差し入れると、中の人は規則集のとおりに記号を並べ替えて、中国語の返事を書いて返します。

ここで大切なのは、中の人にとって、紙の上の漢字がただの模様だという点です。その記号が果物を指すのか挨拶を表すのか、中の人は何も知りません。それでも規則集が十分によくできていれば、外から見るとまったく自然な中国語の対話が成立します。しかし、中の人は返事の意味を少しも噛みしめていません。

規則どおりに記号を並べ替える処理の側面は、構文論（シンタックス）と呼ばれます。記号が実世界の何を指すのかという意味の側面は、意味論（セマンティクス）と呼ばれます。中国語の部屋が描いたのは、構文論を完璧にこなしながら、意味論をまったく持たない存在です。コンピュータが行う計算も、突きつめれば規則にもとづく記号の操作です。ここから、「規則に従って記号を操作できても、それだけでは理解しているとはいえない」という主張が導かれます。サールはこの思考実験によって、ふるまいだけで知能を認める考え方に反論しました。

ここまでの要点

• チューリングテストは、機械の中身ではなく、会話に表れる外から見えるふるまいで知能を判定します。
• 中国語の部屋は、規則どおりの記号操作（構文論）が完璧でも、意味の理解（意味論）は少しも生まれていないことがありうる、と示します。

まずは全体像をつかめれば十分という人は、ここで区切って大丈夫です。「ふるまいの完璧さと意味の理解は、別の問題だ」と押さえられていれば、この先の深掘りに進む土台はできています。

発展

ここからは、この論争が人工知能の分野に残した立場の区別と用語を整理します。あわせて、記号の操作を積み上げる方式が実際の研究で突き当たった2つの根本的な壁まで掘り下げます。

3. チューリングテストを競技の形にしたローブナーコンテスト

チューリングテストは、頭の中の思考実験にとどまりませんでした。このテストにもとづいて、機械と人間を会話で見分けられるかを競う催しが実際に開かれてきました。ローブナーコンテストです。判定者は、姿の見えない人間と会話プログラムのそれぞれと文字で会話し、どちらが機械かを見分けようとします。ローブナーコンテストは、チューリングテストの発想を実際の競技の形にした催しと位置づけられます。

理解の確認

チューリングテストが「ふるまいで知能を判定する」という考え方で、ローブナーコンテストはその考え方を競技として実現した催しです。考え方と催しという組み合わせで結びつけておきましょう。

4. 強いAIと弱いAIという立場の区別

サールが中国語の部屋で反論した相手をはっきりさせるために、サール自身が導入した区別があります。強いAIと弱いAIです。強いAIとは、適切に作られたプログラムを動かせば機械は本当に心や理解を持つ、とする立場です。弱いAIとは、機械が心を持つ必要はなく、人間の知的な処理を道具としてまねて役に立てばよい、とする立場です。

中国語の部屋が反論したのは、強いAIの立場です。部屋は完璧に受け答えしても意味を理解していないのだから、記号の操作だけで本当の理解が生まれるとはいえない、という反論でした。一方で、この思考実験は弱いAIを否定していません。意味を理解していなくても、翻訳や検索のように、知的な処理をこなす役立つ道具は作れるからです。現在使われている人工知能は、この弱いAIの路線の上で発展してきました。

5. シンボルグラウンディング問題と身体性が示す理解の条件

中国語の部屋の中の人に欠けていたのは、記号と実世界との結びつきでした。中の人にとって、漢字はほかの漢字との対応関係しか持たない、ただの模様だったからです。同じことは、コンピュータの中の記号にも当てはまります。「りんご」という記号を「果物」や「赤い」といったほかの記号と正しくつなぐことはできても、その記号の網をどこまでたどっても、実物のりんごの赤さや重さ、かじったときの甘酸っぱさには行き着きません。記号（シンボル）がそれ自体では実世界の意味に結びつかない、という問題は、シンボルグラウンディング問題と呼ばれます。この名前は、記号が意味の世界に接地（グラウンディング）していない、という問題の中身をそのまま表しています。

この行き詰まりは、知らない言語の辞書だけを渡された場面を思い浮かべると、よく分かります。ある単語を引くと、説明もまた知らない単語で書かれています。その単語を引いても、並んでいるのはやはり知らない単語です。辞書という記号の網の中をぐるぐる回るだけで、意味には永遠にたどり着けません。どこかで記号の外にある実物の世界に触れないかぎり、意味は立ち上がらないのです。

記号の外の世界に触れる手段は、見る、持ち上げる、かじるといった身体の経験です。そこで、知能には身体を通じて世界とやりとりする経験が欠かせない、という考え方が出てきます。この考え方が身体性と呼ばれます。りんごの意味が分かるとは、りんごという記号をほかの記号とつなげることではなく、手ざわりや香りの記憶と結びつけることだ、と身体性の立場は考えます。

理解の確認

強いAIと弱いAIは、機械が本当に理解を持つとする立場と、道具として知的にふるまえればよいとする立場の区別です。シンボルグラウンディング問題は記号が実世界の意味に接地していないという問題で、身体性はその接地に身体の経験が欠かせないとする考え方です。どちらも、中国語の部屋の「意味を知らない中の人」から一本の筋でつながっています。

6. フレーム問題と知識獲得のボトルネックという2つの壁

哲学の議論とは別に、人工知能を実際に作ろうとした研究者たちも、記号の操作を積み上げる方式の限界に突き当たりました。代表的な壁が2つあります。

1つめの壁は、行動に関係することだけを選び出す難しさです。部屋の中にある爆弾を回収するよう命じられたロボットを想像してください。ロボットは行動を起こす前に、その行動に関係する事柄を確かめようとします。ところが、世界の事実は無数にあります。生真面目なロボットは、「壁紙の色は爆弾と関係があるか」「天井の高さはどうか」「今日の天気は関係するか」と、無関係な事実まで1つずつ計算し始め、計算がいつまでも終わらずに部屋の前で動けなくなってしまいます。

人間は、こうした場面で壁紙の色を検討したりしません。関係のある事柄だけを囲む枠（フレーム）を意識さえせずに引けるからです。一方、機械にその枠の引き方を規則として与えることは極めて難しく、根本的な解決はいまも見つかっていません。ある行動に関係することだけを無数の可能性の中から適切に選び出すことの難しさが、フレーム問題と呼ばれます。

2つめの壁は、知識を人手で与える作業の限界です。機械に賢くふるまわせるには、世界についての知識を人間が言葉にして書き込む必要があります。ところが、書き出すべき知識は膨大です。しかも「水はこぼれると広がる」「ひもは引けるが押せない」といった日常の常識ほど、当たり前すぎて普段は言葉にされておらず、あらためて書き出す作業には果てがありません。人工知能に必要な知識を人手で入力していくと作業が膨大になり、そこで開発全体の流れが滞ってしまいます。この限界は、瓶の首（ボトルネック）で流れが細くなる様子になぞらえて、知識獲得のボトルネックと呼ばれます。

フレーム問題が人工知能の根本問題として残り続けた一方で、知識獲得のボトルネックは、行き止まりであると同時に次の時代への転換点になりました。人間が知識や規則を書き尽くせないのなら、大量のデータから規則そのものを機械に見つけ出させればよい、という発想の転換が生まれたからです。人間がルールを書く人工知能からデータに学ぶ機械学習への主役の交代は、この壁の先から始まりました。

理解度の確認