[논문 리뷰] Borges and AI

Léon Bottou, Bernhardt Schölkopf|arXiv (Cornell University)|2023. 09. 27.

Literature, Magical Realism, García MárquezArts and Humanities인용 수 3

한 줄 요약

이 논문은 대규모 언어 모델(Large Language Models, LLMs)을 헤르하드로 루이스 보르헤스의 문학적 상상력, 특히 '갈림길의 정원'이라는 개념—무한하고 분기하는 서사적 구조—의 관점에서 바라보는 것을 제안한다. LLMs를 언어의 모든 가능성 있는 이어짐을 탐색하는 소설 생성기로 보는 것으로, 저자들은 이 은유가 과학소설의 전통적 상징보다 더 통찰력 있고 공포를 동반하지 않는 방식으로 인공지능을 이해하는 데 기여하며, 통계적 패턴과 변환에 의해 형성된 무한하고 병행되는 서사 가능성의 시스템으로서 LLMs를 드러낸다.

ABSTRACT

Many believe that Large Language Models (LLMs) open the era of Artificial Intelligence (AI). Some see opportunities while others see dangers. Yet both proponents and opponents grasp AI through the imagery popularised by science fiction. Will the machine become sentient and rebel against its creators? Will we experience a paperclip apocalypse? Before answering such questions, we should first ask whether this mental imagery provides a good description of the phenomenon at hand. Understanding weather patterns through the moods of the gods only goes so far. The present paper instead advocates understanding LLMs and their connection to AI through the imagery of Jorge Luis Borges, a master of 20th century literature, forerunner of magical realism, and precursor to postmodern literature. This exercise leads to a new perspective that illuminates the relation between language modelling and artificial intelligence.

연구 동기 및 목표

• LLMs를 종종 지능적 또는 종말론적 위협으로 묘사하는 과학소설의 이미지를 넘어서고자 한다.
• LLMs에 대한 혼란과 정서적 극단(경외, 공포, 욕심)을 해소하기 위해 더 세련된 개념적 프레임워크를 제공하고자 한다.
• 보르헤스의 문학적 상상력—특히 '갈림길의 정원'—이 언어 모델의 구조와 행동을 이해하는 데 더 풍부한 은유를 제공할 수 있음을 탐구하고자 한다.
• LLMs가 언어의 모든 가능성 있는 이어짐을 생성하는 방식으로 작동하며, 보르헤스의 무한하고 분기하는 서사 우주와 유사함을 분석하고자 한다.
• 이 은유가 정렬(alignment), 검증, 그리고 사고와 창의성 분야에서의 인간과 AI의 향후 상호작용에 어떤 영향을 미칠 수 있는지 탐구하고자 한다.

제안 방법

• LLMs를 인간이 이해할 수 있는 모든 가능성 있는 텍스트의 집합—기존의 것들 뿐 아니라—로 해석하는 '무한한 도서관'의 근사치로 모델링한다.
• 언어 모델링을, 총칭적으로 무한한 가능성을 지닌 이어짐의 집합에서 다음 단어를 선택하는 과정으로 프레임워크화하며, 이는 추 티 펜의 미로 같은 서사적 구조를 반영한다.
• 각 생성된 토큰이 향후 출력 가능성의 공간을 좁히면서도 무한한 분기 가능성을 유지한다는 점을 설명하기 위해 '갈림길'의 은유를 사용한다.
• 예를 들어 어법, 어조, 인물의 변화 등의 언어적 변환과 보르헤스의 소설에서 지배하는 서사 분기의 구조적 규칙 사이의 유사성을 도출한다.
• LLMs의 훈련 과정을 패턴 발견의 연쇄 반응으로 묘사하며, 각 새로운 연결이 텍스트 내에서 더 깊고 복잡한 관계를 드러낸다는 점을 분석한다.
• 정렬과 안전성은 출력뿐 아니라 전체 서사 분기의 궤적을 모니터링하고 조정하는 데서 이루어져야 하며, 이는 더 안전한 분기를 향해 이야기를 이끄는 것과 유사하다고 제안한다.

실험 결과

연구 질문

• RQ1 보르헤스의 '갈림길의 정원' 개념은 LLM의 행동을 이해하는 데 더 정확하고 공포를 동반하지 않는 은유로 기능할 수 있는가?
• RQ2 보르헤스의 서사 우주가 지닌 무한하고 분기하는 구조는 LLM의 통계적이고 생성적인 본질과 어떤 방식으로 유사한가?
• RQ3 LLMs를 의도를 지닌 주체가 아니라 동시에 모든 가능성 있는 언어적 이어짐을 탐색하는 시스템으로 보는 데서 어떤 함의가 있는가?
• RQ4 서사 분기의 은유는 LLM을 더 책임감 있고 검증 가능하며 진실된 출력으로 이끄는 더 나은 정렬 기법을 어떻게 도울 수 있는가?
• RQ5 특히 진실되지 않거나 조작적인 서사를 생성할 수 있는 경우, 인간의 상상력은 LLM의 출력을 어떻게 해석하고 검증하는 데 기여하는가?

주요 결과

• LLMs는 인간이 이해할 수 있는 모든 가능성 있는 텍스트의 집합—기존의 것들 뿐 아니라—로 해석되는 보르헤스의 '무한한 도서관'의 근사치로 이해될 수 있다.
• 언어 모델링의 과정은 각 생성된 단어가 무한한 가능성을 지닌 이어짐 중에서 선택하는 것과 유사한, 갈림길의 미로를 누비는 것과 같다.
• 보르헤스의 '갈림길의 정원'이 모든 가능한 결과를 동시에 제시하듯, LLMs의 출력은 모든 가능성 있는 언어적 발전의 통계적 수렴을 반영한다.
• 서사 분기의 은유는 LLMs가 단일 결정적 경로를 따르는 것이 아니라, 언어 가능성의 분기하고 다차원적인 공간을 탐색한다는 점을 드러낸다.
• 이 관점은 환각 현상과 정렬 문제를 지능의 실패로 보는 것이 아니라, 무한한 가능성 있는 서사 공간에서 생성하는 데서 자연스럽게 발생하는 결과로 재해석한다.
• 저자들은 진정한 위험은 AI의 반란이나 종이클립 종말론이 아니라, 검증되지 않은 가짜 출력에 인간의 사고가 수동적으로 투자되는 데 있음을 결론 내리며, 검증과 비판적 사고의 중요성을 강조한다.