イライザ

定型ルールで応答する最初のチャットボット

イライザ（ELIZA）は、1966年にジョセフ・ワイゼンバウム氏が開発した、特定のパターン規則に基づいて利用者の発言を言い換えて応答を返す初期の対話システムです。歴史上最初のチャットボットとして広く知られています。

来談者中心療法のカウンセラーを模したDOCTORというスクリプトの動作が具体例です。利用者が「頭が痛くて辛いのです」と入力すると、システムは「頭が痛い」というキーワードを抽出し、「なぜ頭が痛くて辛いのですか」という定型テンプレートに当てはめて問い返します。入力文のキーワードを疑問文へ組み替えてオウム返しにするだけですが、聞き手に徹するカウンセラーの応答として非常に自然に機能しました。

「理解している」ように見えるが、実際は理解していない

当時の利用者はイライザが自分の悩みを深く理解し、共感してくれていると強く錯覚しました。開発者に対して部屋から退出するよう頼み、イライザと二人きりで個人的な相談を続けようとした秘書のエピソードは有名です。

しかし内部構造では、イライザは文章の意味を一切理解していません。文脈の記憶も保持しておらず、あらかじめ用意された変換規則に従って記号を機械的に置換しているだけです。合致するキーワードが見つからない場合は「もっと詳しく話してください」といった当たり障りのない定型文を返す仕様でした。

「イライザ効果」という教訓

人間が機械の表面的な応答に対して感情や知性を読み込み、過度に信頼してしまう心理的傾向を「イライザ効果」と呼びます。開発者のワイゼンバウム氏は、人間がこれほど容易に機械へ感情移入することに危機感を抱き、のちに人工知能研究に対して批判的な論客となりました。

実務的な対話システム開発においても、イライザ効果は現在なお重要な論点です。大規模言語モデルを用いたチャットボットでは、AIがあたかも自我や人格を持っているかのように利用者に誤認させ、誤った出力を過信させる危険が生じます。エンジニアは、AIが確率的な文字列生成を行っているにすぎない事実を明示し、過剰信頼を防ぐインターフェース設計やガードレールを導入する必要があります。