[논문 리뷰] Consciousness in Artificial Intelligence: Insights from the Science of Consciousness

Patrick Butlin, Robert P. Long외 17명|arXiv (Cornell University)|2023. 08. 17.

Explainable Artificial Intelligence (XAI)인용 수 184

한 줄 요약

이론 주도적이고 신경과학에 기반한 루브릭이 지표 속성을 통해 AI 의식을 평가하며, 저명한 이론들에서 파생된 지표를 사용한다; 현재 어떤 AI도 의식적이지 않지만, 지표를 충족하는 시스템의 단기간 내 구축은 가능할 수 있다.

ABSTRACT

Whether current or near-term AI systems could be conscious is a topic of scientific interest and increasing public concern. This report argues for, and exemplifies, a rigorous and empirically grounded approach to AI consciousness: assessing existing AI systems in detail, in light of our best-supported neuroscientific theories of consciousness. We survey several prominent scientific theories of consciousness, including recurrent processing theory, global workspace theory, higher-order theories, predictive processing, and attention schema theory. From these theories we derive "indicator properties" of consciousness, elucidated in computational terms that allow us to assess AI systems for these properties. We use these indicator properties to assess several recent AI systems, and we discuss how future systems might implement them. Our analysis suggests that no current AI systems are conscious, but also suggests that there are no obvious technical barriers to building AI systems which satisfy these indicators.

연구 동기 및 목표

• AI 의식에 대해 과학적으로 실행 가능한 접근법을 동기 부여하고 정당화한다.
• 신경과학 이론에서 파생된 지표 속성의 루브릭을 제안한다.
• 현존하는 AI 시스템을 지표 속성과 대조하여 평가한다.
• 미래의 AI 시스템이 지표를 구현하는 방법을 설명한다.
• 지표를 바탕으로 의식 AI의 한계, 불확실성 및 사회적 함의를 논의한다.

제안 방법

• AI 계산을 의식과 연관시키기 위한 작동 가설로 계산적 기능주의를 채택한다.
• 의식에 대한 선도 이론들을 조사한다(예: 순환 처리 이론, 글로벌 워크스페이스 이론, 고차 이론, 예측 처리, 주의 스키마 이론).
• 이 이론들로부터 AI 의식에 필요하거나 함께 충분한 지표 속성 집합을 도출한다.
• 표준 기계 학습 방법을 사용해 AI 시스템이 이러한 속성을 구현할 수 있는지 분석한다.
• 특정 AI 시스템(예: Transformers, Perceiver, DeepMind Adaptive Agent, embodied multimodal models)을 사례 연구로 삼아 지표에 대하여 평가한다.
• 루브릭은 잠정적이며 연구가 진행됨에 따라 정교화될 수 있음을 주장한다.

실험 결과

연구 질문

• RQ1 계산적 기능주의 하에서 신경과학 이론에서 파생된 어떤 지표 속성이 AI의 의식을 가장 잘 추적하는가?
• RQ2 현행 AI 아키텍처가 이러한 지표 속성을 구현할 수 있는가, 그리고 의식적 처리와 얼마나 유사한가?
• RQ3 지표 속성을 충족하는 AI 시스템 구성을 위한 실용적 또는 이론적 장벽이 있는가?
• RQ4 이론적 지지와 실증적 증거를 감안할 때 AI 의식에 대한 신뢰도는 어떻게 판단해야 하는가?
• RQ5 잠재적 의식 AI로부터 제기되는 도덕적·사회적 고려사항은 무엇이며, 이를 어떻게 다루어야 하는가?

주요 결과

• 제안된 루브릭에 따라 현재의 어떤 AI 시스템도 의식의 모든 지표 속성을 충족하지 않는다.
• 여러 지표 속성은 기존 AI 방법으로 구현 가능하다(예: 알고리즘적 재발, 일부 주의/대응 기능).
• 일부 아키텍처와 시스템은 글로벌 워크스페이스나 구현된 대리적 행위와 관련된 속성을 부분적으로 보이지만, 의식의 강한 후보는 없다.
• 이론 중심의 계산적 기능주의 접근은 AI 의식을 평가하는 실용적인 프레임워크를 제공하며 향후 개발을 이끌 수 있다.
• 지표의 더 큰 부분집합을 충족하는 AI 시스템 구축에 뚜렷한 기술적 장애물은 없지만, 지표를 충족한다고 해서 의식이 보장되지는 않는다.
• 루브릭은 명시적으로 잠정적이며 지속적 이론적 및 실증적 진전에 따라 발전해야 한다.