[논문 리뷰] Could a Large Language Model be Conscious?

David J. Chalmers|arXiv (Cornell University)|2023. 03. 04.

Topic Modeling인용 수 127

한 줄 요약

Chalmers는 LLM 의식에 대한 찬반 논증을 분석하고 현재의 장애물을 지적하지만 미래의 후계자들이 의식을 달성할 수 있을지 시사한다.

ABSTRACT

There has recently been widespread discussion of whether large language models might be sentient. Should we take this idea seriously? I will break down the strongest reasons for and against. Given mainstream assumptions in the science of consciousness, there are significant obstacles to consciousness in current models: for example, their lack of recurrent processing, a global workspace, and unified agency. At the same time, it is quite possible that these obstacles will be overcome in the next decade or so. I conclude that while it is somewhat unlikely that current large language models are conscious, we should take seriously the possibility that successors to large language models may be conscious in the not-too-distant future.

연구 동기 및 목표

• 현재의 대형 언어 모델들이 의식에 관한 주류 이론 하에서 의식을 나타내는지 평가한다.
• 현재 LLM에서의 주요 장애물을 식별한다(예: 순환 처리, 글로벌 워크스페이스, 통합 주체성).
• 향후 LLM이 이러한 장애물을 극복하고 의식을 가질 가능성을 평가한다.

제안 방법

• LLMs에 적용된 표준 의식 기준에 대한 검토와 비판.
• 순환 처리, 글로벌 워크스페이스, 통합 주체성과 같은 구조적 요건에 대한 체계적 분석.
• 현재 한계를 극복하기 위한 기술적 경로와 미래 가능성에 대한 논의.

실험 결과

연구 질문

• RQ1 현재의 대형 언어 모델들은 의식을 위한 일반적인 기준을 충족하는가?
• RQ2 오늘날 LLM이 의식을 가지지 못하게 하는 주요 장애물은 무엇인가?
• RQ3 가까운 미래에 다가올 LLM의 후속 모델들이 이러한 장애물을 설득력 있게 극복하고 의식을 가질 가능성이 있는가?

주요 결과

• 현재 LLM은 순환 처리, 글로벌 워크스페이스, 통합 주체성의 부재로 인해 주류 이론 하에서 의식을 가질 가능성이 낮다.
• 향후 10년 정도 안에 후속 모델이 이러한 장애물을 극복할 수 있는 그럴듯한 경로가 있다.
• 현재의 회의에도 불구하고 향후 의식 있는 LLM의 가능성은 진지한 고려와 지속적 연구가 필요하다.