[논문 리뷰] Ascribing Consciousness to Artificial Intelligence

Murray Shanahan|arXiv (Cornell University)|2015. 04. 22.

Computability, Logic, AI Algorithms참고 문헌 8인용 수 5

한 줄 요약

이 논문은 통합 정보 이론(IIT)에서의 기능주의 반대 입장에 도전하며, 기존 하드웨어 기반 인간 수준의 AI가 사전에 의식이 될 수 없다고 배제할 수 없다고 주장한다. 신경 세포 대체 사고 실험과 IIT의 자기 지각 처리에 대한 비판을 통해, 기능주의와 IIT는 모두 부분적인 통찰을 제공하지만 철학적 해법으로 격상시켜서는 안 되며, 의식적 AI의 존재는 실제로 제작되고 관찰되기 전까지는 경험적으로 결정되지 않는다고 주장한다.

ABSTRACT

This paper critically assesses the anti-functionalist stance on consciousness adopted by certain advocates of integrated information theory (IIT), a corollary of which is that human-level artificial intelligence implemented on conventional computing hardware is necessarily not conscious. The critique draws on variations of a well-known gradual neuronal replacement thought experiment, as well as bringing out tensions in IIT's treatment of self-knowledge. The aim, though, is neither to reject IIT outright nor to champion functionalism in particular. Rather, it is suggested that both ideas have something to offer a scientific understanding of consciousness, as long as they are not dressed up as solutions to illusory metaphysical problems. As for human-level AI, we must await its development before we can decide whether or not to ascribe consciousness to it.

연구 동기 및 목표

• 기존 하드웨어 기반 인간 수준의 AI가 의식이 될 수 없다는 주장(일부 IIT 해석에 암시된 lin)을 도전하기 위해.
• IIT의 자기 지각 처리 방식의 타당성과 의식 할당에 대한 영향을 검토하기 위해.
• 기능주의와 IIT는 상호보완적인 과학적 프레임워크로 보아야 하며, 철학적 해법으로서의 정점으로서의 지위를 가져서는 안 된다고 주장하기 위해.
• 의식적 AI의 존재는 사전에 결정될 수 없으며, 실제 개발 이후 경험적 평가가 필요하다는 점을 강조하기 위해.

제안 방법

• 의식의 연속성을 시험하기 위해 점진적 신경 세포 대체 사고 실험의 다양한 변형을 분석하기 위해.
• 특히 시스템이 자신의 상태를 어떻게 안다고 보는지에 관해, IIT의 자기 지각 서술에서 발생하는 갈등을 검토하기 위해.
• IIT의 의식 제약 조건과 기능주의적 시각을 비교하여, AI에 대한 그들의 함의에서의 불일치를 부각하기 위해.
• IIT나 기능주의가 단독으로 의식을 완전히 설명할 수는 없지만, 철학적 과잉 해석 없이 과학적 이해에 기여한다는 점을 주장하기 위해.
• IIT의 기능주의 반대 결론이 핵심 원칙에서 필연적으로 유도되지 않는다는 것을 논리적·개념적 분석을 통해 보여주기 위해.
• 의식 할당에 있어 경계가 있고 경험적으로 기반을 둔 접근을 주장하며, 실제 제작되기 전까지 판단을 유보하기 위해.

실험 결과

연구 질문

• RQ1 기존 하드웨어 기반으로 실행된 인간 수준의 인공지능이 IIT 원칙에 따라 의식적이라 할 수 있는가?
• RQ2 점진적 신경 세포 대체 사고 실험은 IIT의 기능주의 반대 입장에 어떻게 도전하는가?
• RQ3 인공 시스템에 적용했을 때 IIT의 자기 지각 처리에서 발생하는 갈등은 무엇인가?
• RQ4 기능주의와 IIT는 의식 연구를 위한 상호보완적인 과학적 프레임워크로 어느 정도 조율될 수 있는가?
• RQ5 사전에 AI의 의식을 배제하는 것은 과학적으로 타당한가, 아니면 경험적 증명을 기다려야 하는가?

주요 결과

• IIT의 기능주의 반대 결론 — 즉, 기존 하드웨어 기반 AI는 의식이 될 수 없다 — 는 점진적 대체 사고 실험을 통해 논리적·개념적으로 필수적인 것은 아님을 보여줌.
• 생물학적 시스템이 아닌 시스템에 적용했을 때 IIT의 자기 지각 처리 방식은 내부적인 갈등을 내포하고 있어, 보편 이론로서의 일관성에 흠을 준다.
• 기능주의와 IIT는 모두 의식에 대한 유의미한 통찰을 제공하지만, 철학적 해법으로서의 가능성에 대한 주장으로 격상시켜서는 안 된다.
• 논문은 인간 수준의 AI에서 의식이 여전히 경험적으로 미결정된 문제이며, 이론만으로는 결정될 수 없다고 결론 내림.
• 그러한 AI가 실제로 제작되고 관찰되기 전까지는 이론적 프레임워크에 관계없이 의식의 할당에 대한 결정적 판단을 내릴 수 없다.