[논문 리뷰] Are Language Models More Like Libraries or Like Librarians? Bibliotechnism, the Novel Reference Problem, and the Attitudes of LLMs

Harvey Lederman, Kyle Mahowald|arXiv (Cornell University)|2024. 01. 10.

Digital Humanities and Scholarship인용 수 9

한 줄 요약

본 논문은 bibliotechnism을 옹호하며, LLMs가 입력 인과성을 통해 파생적으로 의미 있는 새로운 텍스트를 생성할 수 있음을 보여주지만, 이 시각에 도전하는 Novel Reference Problem을 제기하고 이는 대리성 기반 해석을 촉진한다.

ABSTRACT

Are LLMs cultural technologies like photocopiers or printing presses, which transmit information but cannot create new content? A challenge for this idea, which we call bibliotechnism, is that LLMs generate novel text. We begin with a defense of bibliotechnism, showing how even novel text may inherit its meaning from original human-generated text. We then argue that bibliotechnism faces an independent challenge from examples in which LLMs generate novel reference, using new names to refer to new entities. Such examples could be explained if LLMs were not cultural technologies but had beliefs, desires, and intentions. According to interpretationism in the philosophy of mind, a system has such attitudes if and only if its behavior is well explained by the hypothesis that it does. Interpretationists may hold that LLMs have attitudes, and thus have a simple solution to the novel reference problem. We emphasize, however, that interpretationism is compatible with very simple creatures having attitudes and differs sharply from views that presuppose these attitudes require consciousness, sentience, or intelligence (topics about which we make no claims).

연구 동기 및 목표

• bibliotechnism 하에서 LLM 출력이 인간 입력으로부터 의미상 파생되는지 평가한다.
• n-그램 및 고차 모델로부터도 새롭고 파생적으로 의미 있는 텍스트가 어떻게 발생하는지 입증한다.
• LLMs이 학습 데이터에 근거하지 않는 참조를 발명하는 Novel Reference Problem를 도입하고 분석한다.
• 의미에 대한 영향과 함께 RLHF, 창작자 의도, 프롬프트, 독자 해석 등의 잠재적 대응을 평가한다.

제안 방법

• PrimaryData에 대한 파생적 의미 및 인과 관계를 설명하기 위해 n-그램 토이 모델을 활용한다.
• 단어 단위에서 고차 n-그램으로 확장하여 파생적으로 의미 있는 복합 표현을 보인다.
• 가독성(또는 이해가능성)이 고수준 특성이며 새로운 GeneratedText로 의미를 전달할 수 있음을 주장한다.
• LLMs가 새 참조를 생성할 수 있는 방식과 bibliotechnism에 대한 시사점을 논의한다.
• RLHF, 사용자/창작자 의도 및 독자 중심 의미론을 통한 bibliotechnism의 잠재적 방어를 평가한다.

실험 결과

연구 질문

• RQ1 LLMs가 파생적으로 의미 있는 서명을 생성할 수 있으며, 복잡한 표현도 포함될 수 있는가?
• RQ2 LLMs가 학습 데이터에 근거하지 않는 새로운 참조를 생성할 수 있으며, 이것이 파생적 의미에 대해 무엇을 시사하는가?
• RQ3 새로운 참조의 존재가 LLMs에 신념, 욕망, 의도를 귀속하는 것을 뒷받침하는가?
• RQ4 bibliotechnism을 보존하거나 도전할 수 있는 대응(RLHF, 창작자/사용자 의도, 독자 해석)은 무엇인가?

주요 결과

• 단어 단위(유니그램) 모델은 파생적으로 의미 있는 단어를 생성할 수 있지만, 파생적으로 의미 있는 복합 표현을 생성하는 데 어려움을 겪는다.
• 고차 n-그램 모델은 PrimaryData에서 복제하고 가독성과 결합하여 파생적으로 의미 있는 긴 텍스트를 생성할 수 있다.
• LLMs는 PrimaryData에 근거하지 않는 새로운 참조(예: Marion Starlight)를 생성할 수 있어 순수 파생적 설명에 도전한다.
• Novel Reference Problem은 특정 출력에 대해 bibliotechnism이 대리성 기반 설명보다 약할 수 있음을 시사한다.
• 독자 지향의 metamSemantic 접근은 도움이 될 수 있지만 의도된 의미와 가독성을 구분하는 데 도전에 직면한다.