[논문 리뷰] ELIZA Reinterpreted: The world's first chatbot was not intended as a chatbot at all

Jeff Shrager|arXiv (Cornell University)|2024. 06. 25.

AI in Service Interactions인용 수 4

한 줄 요약

이 논문은 ELIZA를 세계 최초의 채팅 봇으로 보는 것이 아니라, 조셉 바이젠바움이 인간-기계 간 의사소통, 해석, 이해의 환영을 연구하기 위해 개발한 원본 연구 플랫폼으로 재해석한다. 이 논문은 ELIZA가 대화를 시뮬레이션하기 위해 만들어진 것이 아니라, 사람들이 기계에 신뢰성과 지능을 어떻게 부여하는지 연구하기 위한 것이며, 그 덕분에 채팅 봇으로서의 우연한 유명세가 그 진정한 목적을 가리고, 50여 년 넘게 원래의 설계와 의도를 상실하게 했다고 주장한다.

ABSTRACT

ELIZA, often considered the world's first chatbot, was written by Joseph Weizenbaum in the early 1960s. Weizenbaum did not intend to invent the chatbot, but rather to build a platform for research into human-machine conversation and the important cognitive processes of interpretation and misinterpretation. His purpose was obscured by ELIZA's fame, resulting in large part from the fortuitous timing of it's creation, and it's escape into the wild. In this paper I provide a rich historical context for ELIZA's creation, demonstrating that ELIZA arose from the intersection of some of the central threads in the technical history of AI. I also briefly discuss how ELIZA escaped into the world, and how its accidental escape, along with several coincidental turns of the programming language screws, led both to the misapprehension that ELIZA was intended as a chatbot, and to the loss of the original ELIZA to history for over 50 years.

연구 동기 및 목표

• ELIZA의 원래 목적을 재구성하여, 그것이 채팅 봇으로 설계되었다는 널리 퍼진 믿음을 도전한다.
• 바이젠바움이 ELIZA를 기계가 생성한 언어에 대한 인간의 해석 과정을 연구하기 위한 플랫폼으로 의도했다는 것을 입증한다.
• ELIZA가 우연히 대중에게 알려지고 기술적으로 진화함에 따라 원래의 연구 목표가 어떻게 가려졌는지 추적한다.
• ELIZA 창작의 역사적 배경을 복원하고 재구성한다. 이는 초기 인공지능, 자연어 처리, 기호 계산의 뿌리와 관련된다.
• ELIZA를 대화형 에이전트로 오해함으로써 발생한 장기적 영향을 부각한다. 이는 인간-기계 간의 신뢰성과 해석을 연구하기 위한 인지 과학 도구로 보는 것이 아니라, 오히려 AI의 상징으로 여겨졌기 때문이다.

제안 방법

• Weizenbaum의 1966년 CACM 논문, 비공개 수필, 서신 등의 1차 자료를 분석하여 ELIZA 설계의 원래 의도를 재구성한다.
• ELIZA의 기술적 유산을 추적하여, 특히 비ctor Yngve의 COMIT 언어와 기호 패턴 매칭을 위한 SLIP 개발에 미친 영향을 분석한다.
• 1960년대 인공지능의 역사적 배경을 분석하여, 터링 테스트와 기호 기반 AI의 부상과 함께 ELIZA를 보다 넓은 지적 흐름 속에 위치시킨다.
• DOCTOR 스크립트—ELIZA의 가장 유명한 변종—이 독립적으로 탄생하고, 바이젠바움의 주요 초점과는 거리가 있었음에도 불구하고 프로그램의 주요 대중적 얼굴로 자리 잡은 이유를 조사한다.
• 주요 인물들(예: 테리 윈오그라드, 존 마크오프)의 아카이브 자료와 구술 역사 자료를 활용하여 ELIZA 아키텍처의 기술적 및 철학적 동기를 명확히 한다.
• ELIZA의 원래 연구 목표와 그 후의 수용 양상 간의 대비를 분석하여, 특히 인간-기계 간의 인지 과학 도구에서 AI의 문화적 상징으로의 전환을 다룬다.

실험 결과

연구 질문

• RQ1 조셉 바이젠바움은 왜 ELIZA를 만들었으며, 이것이 일반적으로 알려진 채팅 봇으로서의 의도와 어떻게 다를까?
• RQ2 SLIP와 COMIT에서의 패턴 매칭에 의존하는 ELIZA의 기술적 설계는 인간이 기계 언어를 어떻게 해석하는지 연구하기 위한 플랫폼으로서의 역할을 어떻게 뒷받침했는가?
• RQ3 DOCTOR 스크립트가 바이젠바움의 주요 초점과는 거리가 있었음에도 불구하고, ELIZA의 주요 대중적 표현으로 자리 잡게 된 역사적 및 기술적 요인은 무엇인가?
• RQ4 ELIZA의 발표 시기와 그가 뜻하지 않게 대중에 의해 수용된 것이 그 목적에 대한 오해를 어떻게 초래했는가?
• RQ5 ELIZA를 대화형 에이전트로 오해함으로써 발생한 장기적 결과는 무엇인가? 특히 인간-기계 간의 신뢰성과 해석을 연구하기 위한 연구 도구로 보는 것이 아니라, 오히려 지능이 있는 AI의 상징으로 여겨졌을 때의 영향을 포함한다.

주요 결과

• ELIZA는 채팅 봇으로 의도된 것이 아니라, 특히 모호성과 완전하지 않은 이해 상황에서 인간이 기계가 생성한 언어를 어떻게 해석하고 이해의 환영을 부여하는지 연구하기 위한 연구 플랫폼이었다.
• 바이젠바움의 주요 목표는 기계 출력에 대한 인간의 신뢰 판단 메커니즘을 연구하는 것이었으며, 유력한 대화형 에이전트를 만드는 것이 아니었다.
• 가장 유명한 ELIZA의 변종인 DOCTOR 스크립트는 독립적으로 탄생했으며, 바이젠바움의 원래 연구 계획에 포함되지 않았지만, 실제로는 프로그램의 대중적 얼굴이 되었다.
• 원래의 ELIZA 소스 코드는 그 중심적인 역할에도 불구하고, DOCTOR 스크립트의 우연한 보급과 문서화 부족으로 인해 50여 년 넘게 실종되었다.
• 바이젠바움이 우려한 바와 같이, ‘예시가 그가 설명하고자 하는 바를 뛰어넘게 될 것’이라는 경고는 현실이 되었고, ELIZA는 인간 해석 과정을 연구하기 위한 도구가 아니라 AI 지능의 상징이 되었다.
• ELIZA가 연구 도구에서 채팅 봇의 상징으로 전환된 사례는 단순한 패턴 매칭 시스템에 사람들은 얼마나 쉽게 기관성과 이해 능력을 부여하는지에 대한 광범위한 위험을 보여주며, 현대의 LLMs와도 여전히 깊이 관련된 문제다.