[論文レビュー] ELIZA Reinterpreted: The world's first chatbot was not intended as a chatbot at all

Jeff Shrager|arXiv (Cornell University)|Jun 25, 2024

AI in Service Interactions被引用数 4

ひとこと要約

この論文は、ELIZAを世界初のチャットボットではなく、ジョゼフ・ヴァイツェンバウムが人間と機械の間のコミュニケーション、解釈、理解の錯覚を研究するためのオリジナルな研究プラットフォームとして再解釈する。ELIZAは会話の模倣を目的としたものではなく、人間が機械に対して信用や知能をどのように帰属させるかを調査することを意図したものであり、その偶然的な人気のおかげでチャットボットとしての評価が広まり、それにより50年以上にわたりその本来の設計思想と目的が失われたと主張する。

ABSTRACT

ELIZA, often considered the world's first chatbot, was written by Joseph Weizenbaum in the early 1960s. Weizenbaum did not intend to invent the chatbot, but rather to build a platform for research into human-machine conversation and the important cognitive processes of interpretation and misinterpretation. His purpose was obscured by ELIZA's fame, resulting in large part from the fortuitous timing of it's creation, and it's escape into the wild. In this paper I provide a rich historical context for ELIZA's creation, demonstrating that ELIZA arose from the intersection of some of the central threads in the technical history of AI. I also briefly discuss how ELIZA escaped into the world, and how its accidental escape, along with several coincidental turns of the programming language screws, led both to the misapprehension that ELIZA was intended as a chatbot, and to the loss of the original ELIZA to history for over 50 years.

研究の動機と目的

• ELIZAの本来の目的を再評価し、それがチャットボットとして設計されたという広く信じられている考えに反論すること。
• ヴァイツェンバウムがELIZAを、機械が生成する言語に人間がどのように解釈を加え、理解があると感じ取るかを研究するためのプラットフォームとして意図したことを示すこと。
• ELIZAの偶然的な公的登場と技術的進化が、その元来の研究目的をどのように曇らせたかをたどること。
• ELIZAの創出の歴史的文脈を回復・再構築すること。特に、初期のAI、自然言語処理、記号計算のルーツを含む。
• ELIZAを会話エージェントとしてではなく、認知科学的道具としてではなく、人間と機械の信頼性と解釈に関する研究のための道具として誤解した長期的影響を強調すること。

提案手法

• ヴァイツェンバウムの1966年のCACM論文、未発表の原稿、手紙などの一次資料を分析し、ELIZA設計の元来の意図を再構築すること。
• ELIZAの技術的ルーツをたどり、特にビクター・イングヴェのCOMIT言語と、記号パターンマッチング用に開発されたSLIPの影響を明らかにすること。
• 1960年代のAIの歴史的文脈を検討し、チューリングテストや記号的AIの台頭を含め、ELIZAを広い知的潮流の中で位置づけること。
• DOCTORスクリプト（ELIZAの最も有名な変種）が独立して登場し、ヴァイツェンバウムの主な関心とは無関係であったにもかかわらず、プログラムの公的顔としての地位を獲得した経緯を調査すること。
• 関係者（例：テリー・ウィノグラード、ジョン・マークォフ）のアーカイブ資料と口述史を用いて、ELIZAのアーキテクチャの背後にある技術的・哲学的動機を明確にすること。
• ELIZAの元来の研究目的と、その後の受容との対比を検討し、特に認知科学的道具からAIの文化的な象徴に移行した過程を明らかにすること。

実験結果

リサーチクエスチョン

• RQ1 ジョゼフ・ヴァイツェンバウムはなぜELIZAを作成したのか。これは、一般的に広く信じられている「チャットボットとして設計された」という物語とはどのように異なるのか。
• RQ2 ELIZAの技術的設計、特にSLIPとCOMITにおけるパターンマッチングの依存が、人間が機械の言語をどのように解釈するかを研究するプラットフォームとしてのELIZAの役割をどのように支えたのか。
• RQ3 DOCTORスクリプトが、ヴァイツェンバウムの主な関心とは無関係であったにもかかわらず、ELIZAの公的顔としての地位を獲得した歴史的・技術的要因は何か。
• RQ4 ELIZAのリリース時期と、その意図しない公的受容が、その目的に対する誤解を生み出す要因となったのか。
• RQ5 ELIZAが会話エージェントとして誤解された結果、人間と機械の信頼性と解釈に関する研究のための道具ではなく、AI知能の文化的な象徴となった長期的影響は何か。

主な発見

• ELIZAはチャットボットとして設計されたのではなく、人間が機械が生成する言語を解釈し、理解があると感じ取るプロセス、特に曖昧さや完全でない理解の状況下でのプロセスを研究するための研究プラットフォームとして設計された。
• ヴァイツェンバウムの主な目的は、機械の出力に対して人間がどのように信用判断を行うかという認知的メカニズムを調査することであり、説得力のある会話エージェントを作成することではなかった。
• 最も有名なバージョンであるDOCTORスクリプトは、独立して登場し、ヴァイツェンバウムの元来の研究計画には含まれていなかったが、実質的にプログラムの公的顔となった。
• 元々のELIZAのソースコードは、DOCTORスクリプトの誤った普及と文書化の不足のため、50年以上にわたり失われていたが、初期AI研究において中心的な役割を果たしていた。
• ヴァイツェンバウムが「例が、それが説明すべきものから逸脱してしまうのを恐れていた」ことは現実となった。ELIZAは、人間の解釈プロセスを研究するための道具ではなく、AI知能の文化的な象徴となった。
• ELIZAが研究道具からチャットボットの象徴へと移行したことは、単純なパターンマッチングシステムに対し、人間が容易に意図や理解を帰属してしまう危険性を示しており、現代のLLMに対しても依然として極めて関連性の高い懸念である。