エキスパートシステムと質問応答：専門家の知識を機械に写す

ねらい

このレッスンでは、専門家の知識を機械に写して問題を解かせたエキスパートシステムと、たくわえた知識で質問に答える挑戦の歴史を学びます。

基礎

専門家の判断を「もし〜なら〜せよ」の決まりに写す方式と、知識を書き出す作業が人間の側の壁にぶつかったいきさつをつかみます。

1. 専門家の判断を写し取る If-Then 規則のしくみ

エキスパートシステムとは、ある分野の専門家が持つ知識を機械に写し、専門家のように問題を解かせるシステムです。エキスパートとは専門家のことです。

中心にあるのは、「もし〜なら〜せよ」という形の決まりです。英語の if（もし）と then（ならば）にちなんで、If-Then ルールとも呼ばれます。たとえば「もし熱が高く、のどが赤いなら、この病気を疑え」という決まりをたくさん用意しておきます。機械は、与えられた症状を決まりに当てはめ、成り立った決まりの結論を別の決まりの条件として使い、鎖のようにつないで最終的な結論へたどり着きます。

この方式には、たどった決まりの列がそのまま判断の理由になる、という利点があります。「この決まりとこの決まりを順に使ったから、この結論になった」と筋道を示せるので、人が結論の根拠を確かめられます。エキスパートシステムが企業や研究機関に広まった1980年代は、知識の活用に注目が集まった人工知能の第2次ブームの時期にあたります。

2. 言葉にならない勘が生む知識獲得のボトルネック

エキスパートシステムを作るには、専門家の頭の中にある知識を人手で聞き出し、決まりの形に書き出さなければなりません。やってみると、この作業には二重の壁がありました。

まず立ちはだかるのは量の壁です。現実の仕事に通用する判断を写すには、決まりが数百、数千と必要になります。決まりが増えるほど、決まりどうしの矛盾やもれを直す手間もふくらみ、人手の作業はどこかで限界にぶつかります。

もっと根深いのは質の壁です。自転車に乗れる人は、車体が傾くたびにハンドルの切り方と体重のかけ方をとっさに調整しています。それでも「どう調整しているのか」を言葉で説明しきれる人はいません。長年の練習で身についた技能は、本人が意識できない形で頭の中に蓄えられているからです。このような、本人も言葉にできない知識を暗黙知（あんもくち）と呼びます。反対に、文章や決まりの形にはっきり書き表せる知識が形式知（けいしきち）です。

専門家の判断力の核心は、この暗黙知の側にあります。経験を積んだ医師は、検査の数値が出そろう前に「何かおかしい」と感じ取ります。ところが「なぜそう感じたのですか」と尋ねられると、「長年の経験としか言いようがない」という答えになりがちです。隠しているのではなく、判断の決め手が本人の意識にのぼらないのです。If-Then の決まりに書き出せるのは形式知だけなので、専門家の知識のいちばん大事な部分が、書き出しの網からこぼれ落ちてしまいます。

この、知識を集めて書き出す作業こそが最大の難所になる、という問題は知識獲得のボトルネックと呼ばれます。ボトルネックとは、びんの首のように流れが細くなって詰まる場所を指します。推論の仕掛けをどれほど磨いても、知識を注ぎこむ入り口が細いままでは、システムは専門家に追いつけません。

ここまでの要点

• エキスパートシステムは、専門家の知識を「もし〜なら〜せよ」の決まりの集まりに写し、決まりを鎖のようにつないで結論を出します。
• たどった決まりの列がそのまま筋道の説明になるため、人が結論の根拠を確かめられます。
• 専門家の判断の核心は本人も言葉にできない暗黙知にあり、知識を書き出す作業が最大の難所になります。この難しさが知識獲得のボトルネックです。

まずは全体像をつかめれば十分という人は、ここで区切って大丈夫です。「専門家の知識を決まりに写す。ただし、いちばん大事な勘ほど言葉にならない」と押さえられていれば、この先の深掘りに進む土台はできています。

発展

ここからは、代表的なシステムの設計の中身と、対話や質問応答への広がりをくわしく見ていきます。しくみを知りたい人は、続きを読みましょう。

3. DENDRAL と MYCIN が示した力と実用の壁

エキスパートシステムの先がけは、1960年代にスタンフォード大学で開発が始まった DENDRAL（デンドラル）です。化合物を分析装置にかけて得たデータから、その化合物の分子構造を推定しました。化学者の専門知識を決まりの形に写した、初期の代表例です。

同じスタンフォード大学で、1970年代にマイシン（MYCIN）が生まれました。血液の感染症を診断するシステムで、患者の症状や検査結果から原因となる細菌を絞りこみ、どの抗生物質を使えばよいかを助言しました。数百の決まりを持ち、評価実験では専門医に匹敵する水準の助言を示しました。

マイシンの設計には、後の時代へ受け継がれた工夫があります。その1つが確信度（かくしんど。Certainty Factor）です。医療の知識は、「この症状なら必ずこの菌だ」とは言い切れず、「この菌である可能性がかなり高い」という不確かさを含んだ形をしています。そこでマイシンは、決まりの1つひとつに結論の確からしさを表す数値を付け、推論の途中でそれらを組み合わせて、最終的な結論の確からしさまで示しました。断定できない知識を断定できないまま扱えるようにした仕掛けが、この確信度です。

もう1つの工夫が、知識ベースと推論エンジンの分離です。マイシンは、感染症の知識を収めた知識ベースと、決まりを当てはめて結論を導く推論エンジンを切り分けて設計されました。推論エンジンをそのまま残して知識ベースだけを入れ替えれば、別の分野のエキスパートシステムを作れます。この分離は、その後のエキスパートシステムの標準的な設計になりました。

これほどの水準に達しながら、マイシンが実際の医療現場で使われることはありませんでした。理由は技術の外側にあります。誤った助言で患者に不利益が出たとき、その責任を誰が負うのかという問いに、当時の社会は答えを持っていませんでした。加えて、診察のたびに患者の情報を細かく入力する手間が大きく、当時のコンピュータ環境で日常の診療に組みこむのは実際的ではありませんでした。人の命にかかわる判断を機械にゆだねるには、助言の正しさだけでは足りなかったのです。

理解の確認

DENDRAL は、分析データから化合物の分子構造を推定した先がけでした。マイシン（MYCIN）は感染症の診断で専門医に匹敵する評価を得て、不確かな知識を扱う確信度と、知識ベースと推論エンジンの分離という設計を後の世代に残しました。それでも、責任の所在と運用の手間が理由となり、医療現場で使われることはありませんでした。

4. 型で応じたイライザと知識を聞き出すインタビューシステム

専門知識とは別の方向から、人との対話に挑んだプログラムもありました。1960年代に作られたイライザ（ELIZA）です。イライザは、心の相談に乗るカウンセラーのようにふるまいました。とはいえ、相手の言葉の意味を理解していたわけではありません。「〜が悲しい」と入力されたら「なぜ〜が悲しいのですか」と返す、というように、相手の言葉を決まった型に当てはめてなぞっていただけです。

それでも、イライザに本物の相談相手のように心を打ち明ける人が現れました。ここで浮かび上がったのも、人間の側の認知の性質です。人間には、型どおりの応答にさえ意味や心を読みこんでしまう傾向があります。専門家は自分の判断をうまく言葉にできません。その一方で聞き手は、言葉の裏にないはずの心まで補って受け取ります。エキスパートシステムの時代の研究は、機械のしくみと同じくらい、人間の認知の姿を照らし出しました。

エキスパートシステムの最大の難所だった知識集めについても、対話の力で乗りこえようとする試みが生まれました。インタビューシステムです。機械が専門家に質問を重ね、その答えから判断の決まりを引き出して、知識としてためていきます。人が手作業で聞き取って書き出す代わりに、聞き出す作業そのものを機械に受け持たせ、知識獲得のボトルネックをやわらげようとしました。

理解の確認

イライザ（ELIZA）は、決まった型で言葉をなぞるだけで会話らしさを生み、人が機械に心を読みこんでしまう性質を浮かび上がらせました。インタビューシステムは、専門家への聞き取りを機械が受け持って知識をためる、知識集めの壁への対策でした。

5. Question-Answering に挑んだワトソンと東ロボくん

人の質問に対して、たくわえた知識をもとに機械が答えを返す技術は、Question-Answering（質問応答）と呼ばれます。知識をためる研究の流れは、やがて「その知識で人間の質問にどこまで答えられるか」という挑戦に向かいました。

その力を世界に示したのが、IBM のワトソン（Watson）です。ワトソンは2011年、アメリカのクイズ番組「ジェパディ！」で人間の歴代王者と対戦し、勝利をおさめました。問いの文を手がかりに大量の文書から答えの候補を探し出し、候補ごとの確からしさを見積もって、最も確からしいものを選ぶ方式です。ワトソンはその後、医療など専門分野への応用も試みられました。

日本では、国立情報学研究所（NII）が中心となって、2011年に「ロボットは東大に入れるか」というプロジェクトが始まりました。このプロジェクトで大学入試に挑んだ人工知能が東ロボくんです。東ロボくんは、知識をたくわえて答える問題では高い成績を収めました。ところが、文章の意味を読み取って答える問題は最後まで苦手なままでした。単語の並び方や出現のパターンを数える統計的な処理をどれだけ積み上げても、文が指し示す意味、つまり文脈は理解できません。この読解の壁が東京大学への合格は難しいという判断の決め手になり、プロジェクトは2016年に東大合格の目標を取り下げました。

専門家の知識を人手で書き出す方式は、暗黙知の壁にぶつかりました。この行き詰まりが、人が決まりを書くのをやめて、データそのものにルールを語らせる機械学習への転換を後押しします。そして東ロボくんが示した意味の壁は、その転換の先にも残り続ける、より深い課題でした。

理解の確認

Question-Answering（質問応答）は、質問に対して知識をもとに答えを返す技術です。ワトソン（Watson）は大量の文書から確からしい答えを選び出してクイズ番組の王者に勝ち、東ロボくんは統計的な処理では文脈を理解できないという読解の壁に行き当たりました。

理解度の確認