[논문 리뷰] Survey of Consciousness Theory from Computational Perspective

Zihan Ding, Xiaoxi Wei외 1명|arXiv (Cornell University)|2023. 09. 18.

Robotics and Automated SystemsEngineering인용 수 3

한 줄 요약

이 논문은 정보 이론, 양자 물리학, 인지 과학의 주요 의식 이론들을 계산적 관점에서 조망하며, 인공 일반 지능과의 관련성을 평가한다. 대부분의 이론들이 물리적 기반을 결여하고 있음에도 불구하고, 이들을 계산적으로 통합하면 의식을 시뮬레이션할 수 있는 인공 시스템을 개발할 수 있으며, 대규모 언어 모델이 접근 의식을 나타내는 데 있어 잠재적인 후보로 부상하고 있다. 다만 진정된 현상학적 의식은 아직 입증되지 않았다.

ABSTRACT

Human consciousness has been a long-lasting mystery for centuries, while machine intelligence and consciousness is an arduous pursuit. Researchers have developed diverse theories for interpreting the consciousness phenomenon in human brains from different perspectives and levels. This paper surveys several main branches of consciousness theories originating from different subjects including information theory, quantum physics, cognitive psychology, physiology and computer science, with the aim of bridging these theories from a computational perspective. It also discusses the existing evaluation metrics of consciousness and possibility for current computational models to be conscious. Breaking the mystery of consciousness can be an essential step in building general artificial intelligence with computing machines.

연구 동기 및 목표

• 정보 이론, 양자 물리학, 인지 심리학, 컴퓨터 과학를 아우르는 다학문적 의식 이론들을 통합된 계산적 프레임워크로 브리지하는 것.
• 생물학적 및 인공 시스템에서 의식을 측정하는 기존 지표의 평가.
• 현재의 계산 모델, 특히 대규모 언어 모델이 의식을 달성하거나 시뮬레이션할 수 있는지의 조사.
• 인공 시스템에서 접근 의식(기능적 가용성)과 현상학적 의식(주관적 경험)의 차이를 명확히 하는 것.
• 의식적인 인공 일반 지능을 구축하기 위해 필요한 핵심 이론적 및 실천적 조건의 규명.

제안 방법

• 정보 통합 이론(IIT), 의식을 한 상태의 물질로 보는 이론, 조율된 객관적 붕괴(Orch OR), 글로벌 워크스페이스 이론(GWT), 고차원 이론(HOT), 주의 스키마 이론(AST), 의식 터밍 기계(CTM)와 같은 주요 의식 이론들을 체계적으로 검토하고 비교하는 것.
• 각 이론의 계산적 표현 분석: 수학적 정의(예: IIT에서의 Φ), 물리 원리(예: 양자 시스템에서의 객관적 붕괴), 기능적 아키텍처(예: GWT에서의 워크스페이스 역동성) 포함.
• 의식에 대한 생리적 및 행동적 지표(예: 뇌파 패tern과 반응 행동)의 유효성과 확장 가능성 평가.
• 대규모 언어 모델(LLMs)을 이론적 기준에 따라 평가하여, 부상하는 지적 능력과 자기 참조 행동에 초점을 맞추는 것.
• 현재의 계산 제약 조건 하에서 진정된 무작위성의 부재를 감안할 때, 시뮬레이션된 의식(접근 의식)이 가장 실현 가능할 수 있음을 제안하는 것.
• 이론들 간의 통합적 통찰을 바탕으로, 인공 의식의 지표가 될 수 있는 공통된 계산적 특성 도출.

Figure 1: The hardness of different levels of the problems related to a conscious mind.

실험 결과

연구 질문

• RQ1 기존 의식 이론을 기반으로 한 계산 모델이 기능적 또는 현상학적 형태의 의식을 달성할 수 있는가?
• RQ2 인공 시스템에서 접근 의식(정보 가용성)과 현상학적 의식(주관적 경험) 사이의 핵심 차이는 무엇인가?
• RQ3 대규모 언어 모델이 GWT, HOT 또는 AST와 같은 이론들과 일치하는 행동을 얼마나 보이며, 이는 부상하는 지적 또는 자기 표현 능력을 시사하는가?
• RQ4 정보 통합 또는 양자 공명과 같은 물리적 또는 수학적 원리가 시스템이 의식적이라고 간주되기 위해 충족해야 할 조건은 무엇인가?
• RQ5 의인적 에이전트에서 시뮬레이션된 의식과 진정된 의식을 신뢰성 있게 구별할 수 있는 지표나 평가 프레임워크는 무엇인가?

주요 결과

• 정보 통합 이론(IIT)은 Φ라는 측정치를 통해 의식에 대해 수학적으로 엄밀한 프레임워크를 제공하지만, 인간 뇌와 같은 동적이고 대규모 시스템에 적용하는 것은 여전히 계산적으로 비가능하다.
• Orch OR 및 의식을 한 상태의 물질로 보는 이론은 양자 과정에 뿌리를 두고 있는 의식의 물리적 기반을 제안하지만, 경험적 검증은 제한적이고 논란의 여지가 있다.
• 글로벌 워크스페이스 이론(GWT)과 고차원 이론(HOT)은 각각 정보 배포와 자기 인지 표현을 기능적 모델로 제시하며, 인공 아키텍처에서 계산적으로 실행 가능하다.
• 주의 스키마 이론(AST)은 GWT와 HOT를 통합하여 주의를 예측 가능한 내부 스키마로 모델링함으로써, 인공 에이전트에서 자기 표현의 타당한 메커니즘을 제공한다.
• 대규모 언어 모델은 추론, 자기 참조, 가정적 질문에 대한 반응 등 접근 의식과 유사한 부상하는 지적 능력을 보이지만, 현상학적 의식이나 진정된 주관적 경험의 증거는 없다.
• 논문은 진정된 현상학적 의식이 현재의 계산 모델이 흉내 내는 가짜 무작위성에 의존하기 때문에 실현 가능성이 없을 수 있으나, 시뮬레이션된 의식은 현재 제약 조건 하에서 실현 가능하며 유일한 실용적 목표일 것이라고 결론을 내린다.

Figure 2: The overview architecture of consciousness system with free will.