[论文解读] ELIZA Reinterpreted: The world's first chatbot was not intended as a chatbot at all

Jeff Shrager|arXiv (Cornell University)|Jun 25, 2024

AI in Service Interactions被引用 4

一句话总结

本文重新诠释ELIZA并非世界上首个聊天机器人，而是约瑟夫·魏泽鲍姆最初用于研究人机交流、语言理解与误解幻觉的科研平台。文章认为ELIZA的初衷是探究人们如何赋予机器可信度与智能，而非模拟对话；其作为聊天机器人的意外成名掩盖了真实目的，导致其原始设计与意图在长达五十余年中被遗忘。

ABSTRACT

ELIZA, often considered the world's first chatbot, was written by Joseph Weizenbaum in the early 1960s. Weizenbaum did not intend to invent the chatbot, but rather to build a platform for research into human-machine conversation and the important cognitive processes of interpretation and misinterpretation. His purpose was obscured by ELIZA's fame, resulting in large part from the fortuitous timing of it's creation, and it's escape into the wild. In this paper I provide a rich historical context for ELIZA's creation, demonstrating that ELIZA arose from the intersection of some of the central threads in the technical history of AI. I also briefly discuss how ELIZA escaped into the world, and how its accidental escape, along with several coincidental turns of the programming language screws, led both to the misapprehension that ELIZA was intended as a chatbot, and to the loss of the original ELIZA to history for over 50 years.

研究动机与目标

• 重新阐释ELIZA的原始目的，挑战其被广泛认为是为聊天机器人而设计的普遍认知。
• 证明魏泽鲍姆设计ELIZA的初衷是作为研究人类对机器生成语言进行理解与解释过程的平台。
• 追溯ELIZA因意外公众曝光与技术演进而掩盖其原始研究目标的过程。
• 恢复并重构ELIZA诞生的历史背景，包括其在早期人工智能、自然语言处理与符号计算中的根源。
• 强调将ELIZA误认为对话代理而非认知科学研究工具所带来的长期后果。

提出的方法

• 分析原始资料，包括魏泽鲍姆1966年发表于CACM的论文、未出版的手稿及通信记录，以重建ELIZA设计的原始意图。
• 追溯ELIZA的技术谱系，特别是维克多·英格夫的COMIT语言的影响，以及SLIP在符号模式匹配中的发展。
• 考察20世纪60年代人工智能的历史背景，包括图灵测试与符号AI的兴起，以将ELIZA置于更广泛的思想脉络中。
• 研究DOCTOR脚本——ELIZA最著名的变体——如何独立出现并成为该程序的主导公众形象，尽管这并非魏泽鲍姆的主要关注点。
• 利用档案资料与关键人物（如特里·温诺格拉德、约翰·马科夫）的口述史，澄清ELIZA架构背后的技术与哲学动机。
• 对比ELIZA的原始研究目标与其后期接受度，特别是其从认知科学工具向AI文化象征的转变。

实验结果

研究问题

• RQ1 约瑟夫·魏泽鲍姆为何创造ELIZA，这与普遍认为其旨在作为聊天机器人的叙事有何不同？
• RQ2 ELIZA的技术设计——尤其是其在SLIP与COMIT中依赖的模式匹配——如何支持其作为研究人类对机器语言理解过程的平台角色？
• RQ3 哪些历史与技术因素导致DOCTOR脚本成为ELIZA最主流的公众表现形式，尽管它并非魏泽鲍姆的首要研究重点？
• RQ4 ELIZA发布的时间点及其非预期的公众采纳如何加剧了对其目的的误解？
• RQ5 将ELIZA误认为是对话代理而非研究人类-机器可信度与理解过程的科研工具，带来了哪些长期后果？

主要发现

• ELIZA并非旨在作为聊天机器人，而是作为研究平台，用于探究人类如何解释并赋予机器生成语言以理解，尤其是在模糊与不完整理解的情境下。
• 魏泽鲍姆的核心目标是研究人类在面对机器输出时产生可信度判断的认知机制，而非创造一个逼真的对话代理。
• DOCTOR脚本——ELIZA最著名的版本——是独立发展而来，并非魏泽鲍姆原始研究计划的一部分，却成为该程序的默认公众形象。
• 由于DOCTOR脚本的意外泛滥与缺乏文档记录，原始ELIZA源代码在长达五十余年中遗失，尽管它在早期人工智能研究中具有核心地位。
• 魏泽鲍姆曾担心示例会‘脱离其本应阐明的本意’，这一担忧最终成真：ELIZA成为人工智能智能的文化象征，而非研究人类理解过程的工具。
• ELIZA从科研工具转变为聊天机器人图腾的转变，揭示了人们轻易将代理权与理解力赋予简单模式匹配系统所带来的普遍风险，这一问题在现代大语言模型中依然具有高度相关性。