[论文解读] Borges and AI

Léon Bottou, Bernhardt Schölkopf|arXiv (Cornell University)|Sep 27, 2023

Literature, Magical Realism, García MárquezArts and Humanities被引用 3

一句话总结

本文通過豪爾赫·路易斯·博爾赫斯的文學想像，特別是其『分岔的庭院』概念——一種無限分支的敘事結構——來重新審視大型語言模型（LLMs）。作者主張，將LLMs視為能探索語言所有可能延續的虛構故事生成器，這種隱喻比科幻類型更能提供深刻且較少恐懼感的理解，揭示LLMs是受統計模式與轉換所塑造的無限平行敘事可能性系統。

ABSTRACT

Many believe that Large Language Models (LLMs) open the era of Artificial Intelligence (AI). Some see opportunities while others see dangers. Yet both proponents and opponents grasp AI through the imagery popularised by science fiction. Will the machine become sentient and rebel against its creators? Will we experience a paperclip apocalypse? Before answering such questions, we should first ask whether this mental imagery provides a good description of the phenomenon at hand. Understanding weather patterns through the moods of the gods only goes so far. The present paper instead advocates understanding LLMs and their connection to AI through the imagery of Jorge Luis Borges, a master of 20th century literature, forerunner of magical realism, and precursor to postmodern literature. This exercise leads to a new perspective that illuminates the relation between language modelling and artificial intelligence.

研究动机与目标

• 超越AI論述中常見的科幻形象，這些形象往往將LLMs描繪成具有意識或毀滅性威脅的實體。
• 透過提供更具細膩的概念框架，來應對圍繞LLMs所產生的混淆與情緒極端（敬畏、恐懼、貪婪）。
• 探討博爾赫斯的文學想像——特別是《分岔的庭院》——如何提供更豐富的隱喻，以理解語言模型的結構與行為。
• 檢視LLMs如何作為語言所有可能延續的生成器，類似於博爾赫斯無限分支的敘事宇宙。
• 探究此隱喻對對齊、驗證以及人類與AI在思想與創造力互動中的未來所產生的影響。

提出的方法

• 將LLMs建模為博爾赫斯『無限圖書館』的近似——即所有人類可理解的可能文本的集合，而不僅僅是現存的文本。
• 將語言建模視為從龐大且分支的可能延續中選擇下一個詞的過程，類似於呂佩恩的迷宮式敘事結構。
• 使用『分岔路徑』的隱喻來描述每個生成的標記如何縮小未來輸出的可能空間，同時保留無限分歧的潛力。
• 將語言轉換（例如時態、語氣或角色的改變）與博爾赫斯小說中支配敘事分支的結構規則進行類比。
• 將LLMs的訓練與一連串模式發現的鏈式反應相比較，其中每一個新連結都揭示文本中更深層、更複雜的關係。
• 主張LLMs的對齊與安全，需要監控與引導的不僅是輸出，更是整個敘事分岔的軌跡，類似於引導故事走向『更安全』的分支。

实验结果

研究问题

• RQ1 博爾赫斯的『分岔的庭院』概念，如何能作為理解大型語言模型行為的更準確且較少恐懼感的隱喻？
• RQ2 博爾赫斯敘事宇宙的無限分支結構，如何反映LLMs的統計與生成本質？
• RQ3 若將LLMs視為不具意圖的系統，而僅是同時探索所有可能的語言延續，這會帶來哪些含義？
• RQ4 敘事分岔的隱喻，如何能幫助發展更好的對齊技術，以引導LLMs產生更具責任感、可驗證且真實的輸出？
• RQ5 人類想像力在解讀與驗證LLMs輸出時扮演何種角色，特別是當它們產生看似合理但虛假或具有操縱性的敘事時？

主要发现

• LLMs可被理解為博爾赫斯『無限圖書館』的近似——即一個龐大而結構化的集合，包含所有人類可理解的可能文本，而不僅限於現存文本。
• 語言建模的過程類似於穿行於分岔路徑的迷宮，其中每一個生成的詞都代表無限多種可能延續中的選擇。
• 正如博爾赫斯的《分岔的庭院》同時呈現所有可能的結果，LLMs的輸出也反映出所有可能語言發展的統計收斂。
• 敘事分岔的隱喻揭示，LLMs並非遵循單一決定論路徑，而是探索語言可能性的分支、多維空間。
• 此觀點將對幻覺與對齊的擔憂重新定義為生成無限可能敘事空間的自然後果，而非智能失敗。
• 作者結論認為，真正的危險並非AI反叛或圖釘災難，而是人類思想被虛構且未經驗證的輸出所消極佔據——因此驗證與批判性思維至關重要。