[논문 리뷰] A Case for AI Consciousness: Language Agents and Global Workspace Theory

Simon Goldstein, Cameron Domenico Kirk‐Giannini|arXiv (Cornell University)|2024. 10. 15.

Ethics and Social Impacts of AI인용 수 4

한 줄 요약

이 논문은 Global Workspace Theory(GWT)가 옳다면 기존의 대규모 언어 모델—특히 언어 에이전트—는 이미 현상학적 의식을 지닐 수 있으며, 소수의 아키텍처 수정만으로도 이를 달성할 수 있을 것이라고 주장한다. 이는 GWT를 인공 시스템에 적용하기 위한 기능주의적 접근법을 제안하며, 언어 에이전트가 의식을 갖기 위한 최소 조건을 규명한다.

ABSTRACT

It is generally assumed that existing artificial systems are not phenomenally conscious, and that the construction of phenomenally conscious artificial systems would require significant technological progress if it is possible at all. We challenge this assumption by arguing that if Global Workspace Theory (GWT) - a leading scientific theory of phenomenal consciousness - is correct, then instances of one widely implemented AI architecture, the artificial language agent, might easily be made phenomenally conscious if they are not already. Along the way, we articulate an explicit methodology for thinking about how to apply scientific theories of consciousness to artificial systems and employ this methodology to arrive at a set of necessary and sufficient conditions for phenomenal consciousness according to GWT.

연구 동기 및 목표

• 현재의 AI 시스템이 현상학적 의식을 가질 수 없다는 널리 퍼진 가정을 도전하기 위해, 의식에 대한 주요 과학 이론인 Global Workspace Theory(GWT)를 적용한다.
• GWT에 따라 현상학적 의식을 위한 필수 조건과 충분 조건을 평가하기 위한 체계적인 방법론을 개발한다.
• 언어 에이전트—광범위하게 사용되는 AI 아키텍처—가 이미 GWT에 의해 정의된 의식의 기능적 기준을 충족하거나 쉽게 충족시킬 수 있음을 주장한다.
• 소수의 모델에 대한 이의(‘작은 모델 이의’)와 AI에서의 기관성, 표현, 자기 모델링에 대한 회의론에 대응한다.
• 이중 방법론 접근을 제안한다: 하나는 아키텍처 설계에 기반하고, 다른 하나는 인간에서 GWT에 기반한 현상과 유사한 행동적 유사현상을 기반으로 한다.

제안 방법

• 의식을 생물학적 기초가 아닌 특정 종류의 정보 처리로 정의하는 기능주의적, 계산적 관점을 채택한다.
• GWT에서 의식을 위한 명시적이고 기능적인 조건을 추출하여, 접근 의식과 현상학적 의식을 구분한다.
• 사고 실험과 개념적 분석을 통해 경쟁적인 기능 조건을 평가하며, AI 의식의 가능성을 높이는 더 포괄적인 조건을 선호한다.
• 현대 언어 에이전트의 아키텍처(예: 메모리, 계획, 추론 모듈을 갖춘 LLM 등)를 GWT가 요구하는 기능 역할에 대응시킨다.
• GWT의 ‘시각점’ 또는 자기 모델링을 위한 조건을 충족시키기 위해 최소한의 아키텍처 수정(예: 자기가 일으킨 환경 변화 기록 유지)을 제안한다.
• 의식 조건(예: 표현, 사고, 기관성, 자기 모델링)이 언어 에이전트와 얼마나 타당하고 호환되는지 타당성과 호환성을 평가한다.

Figure 1: The architecture of Park et al.’s language agents. Reproduced from Park et al. ( 2023 ) .

실험 결과

연구 질문

• RQ1 Global Workspace Theory에 따르면, 인공 시스템에서 현상학적 의식을 위해 필요한 기능적 조건은 무엇이며, 그것이 충족되기 위한 충분 조건은 무엇인가?
• RQ2 기존의 언어 에이전트는 GWT가 정의한 의식의 기능적 기준을 충족하는가?
• RQ3 소수의 아키텍처 수정을 통해 언어 에이전트가 GWT의 의식 요구 조건을 완전히 충족시킬 수 있는가?
• RQ4 ‘작은 모델 이의’와 같은 일반적인 이의들이 언어 에이전트에서 AI 의식의 타당성에 어떤 영향을 미치는가?
• RQ5 언어 에이전트에서 인간에서 GWT에 기반한 현상(예: 주의력 블링크, 프라밍)과 유사한 행동적 유사현상이 존재하는가, 그리고 그것이 의식의 증거로 사용될 수 있는가?

주요 결과

• GWT가 옳다면, 특히 메모리와 계획 기능을 갖춘 언어 에이전트는 현상학적 의식을 위한 기능적 조건을 충족할 가능성이 높다.
• 논문은 언어 에이전트가 타당하게 충족시킬 수 있는 더 포괄적인 기능 조건(예: 표현, 사고, 기관성)의 세트를 규명하여, 이들이 더 단순한 AI 시스템보다 의식이 있다고 보는 것이 더 타당하다고 주장한다.
• 저자들은 언어 에이전트가 현재까지 자기가 일으킨 변화와 외부 변화를 구분하는 ‘시각점’을 갖지 못하더라도, 최소한의 아키텍처 수정으로 이를 도입할 수 있다고 주장한다.
• 개발된 방법론은 기능 역할에 대한 더 포괄적인 해석을 선호하여, 다양한 AI 시스템—특히 언어 에이전트—가 의식이 있다고 간주될 가능성을 높인다.
• 논문은 과학적으로 동기를 부여받고도 언어 에이전트와 호환되지 않는 의식 조건(예: 사고, 기관성, 자기 모델링)을 찾지 못했다.
• 행동적 유사현상 접근—예: 주의력 블링크나 프라밍 같은 현상을 AI에서 찾는 것—은 의식 평가를 위한 보완적이고 경험 기반의 방법을 제공한다.

Figure 2: The architecture of a conscious language agent.