[논문 리뷰] Dissociating Artificial Intelligence from Artificial Consciousness

Graham Findlay, William Marshall외 5명|arXiv (Cornell University)|2024. 12. 05.

Computational Physics and Python Applications인용 수 6

한 줄 요약

이 논문은 Integrated Information Theory (IIT)를 사용하여 기능적으로 동등한 컴퓨터가 원인–결과 구조에서 다를 수 있으며 따라서 의식적 경험도 다를 수 있음을 보여주고, AI가 주관적 경험을 재현하지 않고도 행동을 시뮬레이션할 수 있음을 주장한다.

ABSTRACT

Developments in machine learning and computing power suggest that artificial general intelligence is within reach. This raises the question of artificial consciousness: if a computer were to be functionally equivalent to a human, being able to do all we do, would it experience sights, sounds, and thoughts, as we do when we are conscious? Answering this question in a principled manner can only be done on the basis of a theory of consciousness that is grounded in phenomenology and that states the necessary and sufficient conditions for any system, evolved or engineered, to support subjective experience. Here we employ Integrated Information Theory (IIT), which provides principled tools to determine whether a system is conscious, to what degree, and the content of its experience. We consider pairs of systems constituted of simple Boolean units, one of which -- a basic stored-program computer -- simulates the other with full functional equivalence. By applying the principles of IIT, we demonstrate that (i) two systems can be functionally equivalent without being phenomenally equivalent, and (ii) that this conclusion is not dependent on the simulated system's function. We further demonstrate that, according to IIT, it is possible for a digital computer to simulate our behavior, possibly even by simulating the neurons in our brain, without replicating our experience. This contrasts sharply with computational functionalism, the thesis that performing computations of the right kind is necessary and sufficient for consciousness.

연구 동기 및 목표

• 인간과 유사한 지능을 가진 인공 시스템이 인간과 유사한 의식을 갖게 될지 여부를 고무한다.
• IIT를 적용하여 기능적으로 동등한 컴퓨터가 대상 의식 체계와 같은 원인-결과 구조를 공유하는지 검증한다.
• 기능적 동등성이 신경 수준의 과정을 시뮬레이션하더라도 현상적 동등성을 의미하지 않는다는 것을 입증한다.
• 매크로 및 마이크로 구조적 특징이 통합에 미치는 영향과 의식적 경험의 잠재적 존재를 개략한다.

제안 방법

• 타깃 네 개 단위 시스템 PQRS와 117개의 마이크로 유닛을 가진 기능적으로 동등한 네 비트 컴퓨터(simulans)를 모델링한다.
• IIT postulates (intrinsicality, information, integration, exclusion, composition)를 계산하여 complexes를 식별하고 φs와 Φ를 측정한다.
• 타깃의 원인–결과 구조를 마이크로 스케일과 매크로 스케일에서 simulans의 구조와 비교한다.
• simulans가 여러 개의 작은 복합체로 분해되어 φ가 낮고 PQRS의 크고 통합된 원인–결과 구조를 재현하지 못한다.
• 튜링-완전 컴퓨터와 임의의 타깃 시스템으로 확장하여 이 분리(dissociation)가 아키텍처를 넘어서 지속된다고 주장한다.
• 매크로화(Macroing)와 내부 단위를 논의하여 IIT 하에서 기능적 동등성이 현상적 동등성을 구출해 주지 못하는 이유를 설명한다.

실험 결과

연구 질문

• RQ1 기능적(입력–출력) 동등성이 IIT 하에서 동일한 원인–결과 구조를 시사하는가?
• RQ2 디지털 컴퓨터가 IIT에 따라 동일한 현상학을 공유하면서 대상 시스템의 행동을 시뮬레이션할 수 있는가?
• RQ3 ISO IIT 포스트ulates가 기능적으로 동등한 시스템이 동일한 의식 경험을 가질 가능성을 어떻게 제약하는가?
• RQ4 마이크로 대 매크로 규모의 아키텍처 한계가 인간과 유사한 의식을 달성하지 못하게 하는가?

주요 결과

• 기능적으로 동등한 컴퓨터는 PQRS와 같은 원인–결과 구조를 가지지 않습니다(컴퓨터 φs = 0 ibits, PQRS φs = 1.51 ibits).
• 컴퓨터는 24개의 작은 복합체로 분해되어 Φ ≤ 6 ibits이며, PQRS의 Φ = 391.25 ibits와 일치하지 않습니다.
• 매크로링 시도는 IIT의 물리적 존재 포스트ulates를 충족하는 매크로를 낳지 못하므로 기능적 동등성이 현상적 동등성을 의미하지 않습니다.
• 심지어 임의의 시스템을 시뮬레이션할 수 있는 튜링-완전 컴퓨터에서도 미시적 원인–결과 구조와 시뮬레이션 시스템의 구조 사이에 분 dissociation이 유지됩니다.
• 분리는 더 큰 규모에서도 지속되며 Rule 110 및 다른 복합 시스템의 시뮬레이션도 simulans에서 사소하고 일치하지 않는 원인–결과 구조를 생성합니다.