[논문 리뷰] Does Thought Require Sensory Grounding? From Pure Thinkers to Large Language Models

David J. Chalmers|arXiv (Cornell University)|2024. 08. 18.

Language and cultural evolution인용 수 6

한 줄 요약

이 논문은 감각적 기반 없이 순수한 사고가 원칙적으로 가능하다고 주장하지만, 감각 없이 달성 가능한 사고의 유형에는 상당한 한계가 있으며, 감각적 기반에 대한 반박과 접지가 인지에 미치는 영향을 검토함으로써 대형 언어 모델이 사고하거나 이해할 수 있는지에 대해 다룬다.

ABSTRACT

Does the capacity to think require the capacity to sense? A lively debate on this topic runs throughout the history of philosophy and now animates discussions of artificial intelligence. I argue that in principle, there can be pure thinkers: thinkers that lack the capacity to sense altogether. I also argue for significant limitations in just what sort of thought is possible in the absence of the capacity to sense. Regarding AI, I do not argue directly that large language models can think or understand, but I rebut one important argument (the argument from sensory grounding) that they cannot. I also use recent results regarding language models to address the question of whether or how sensory grounding enhances cognitive capacities.

연구 동기 및 목표

• 사고가 감각적 기반을 필요로 하는지에 대한 문제에 동기를 부여한다.
• 감각 없이도 순수한 사고가 원칙적으로 가능하다고 주장한다.
• 감각적 기반 없이 사고의 한계를 평가하고 이것이 AI, 특히 대형 언어 모델에 어떤 관련이 있는지 평가한다.

제안 방법

• 사고와 감각적 기반에 관한 철학적 입장에서 주장한다.
• AI 이해에 관한 감각적 기반 주장을 반박한다.
• 언어 모델에 대한 최근 결과를 사용하여 인지적 능력에서 기반의 역할을 논의한다.

실험 결과

연구 질문

• RQ1 감각적 기반이 없는 순수한 사고가 존재할 수 있는가?
• RQ2 감각 없이 사고의 유형에 대한 한계는 무엇인가?
• RQ3 대형 언어 모델은 사고하거나 이해하는가? 그리고 이 질문과 감각적 기반은 어떤 관련이 있는가?
• RQ4 감각적 기반은 언어 모델의 인지 능력을 향상시키는가?
• RQ5 이러한 고려가 AI 인지에 어떤 시사점을 가지는가?

주요 결과

• 감각을 느낄 수 없는 능력을 가진 사고자가 원칙적으로 존재할 수 있다.
• 감각적 기반 없이 가능한 사고의 종류에는 상당한 한계가 있다.
• AI 사고에 반하는 감각적 기반 주장은 원칙적으로 반박될 수 있다.
• 언어 모델에 대한 최근 결과는 감각적 기반이 인지 능력을 향상시키거나 향상시키지 못하는지에 대한 통찰을 제공한다.