[论文解读] Dissociating Artificial Intelligence from Artificial Consciousness

Graham Findlay, William Marshall+5 more|arXiv (Cornell University)|Dec 5, 2024

Computational Physics and Python Applications被引用 6

一句话总结

本文使用 Integrated Information Theory (IIT) 来表明功能等价的计算机在因果结构上可能不同，从而在意识体验上也不同，主张人工智能可以在不复制主观体验的情况下模拟行为。

ABSTRACT

Developments in machine learning and computing power suggest that artificial general intelligence is within reach. This raises the question of artificial consciousness: if a computer were to be functionally equivalent to a human, being able to do all we do, would it experience sights, sounds, and thoughts, as we do when we are conscious? Answering this question in a principled manner can only be done on the basis of a theory of consciousness that is grounded in phenomenology and that states the necessary and sufficient conditions for any system, evolved or engineered, to support subjective experience. Here we employ Integrated Information Theory (IIT), which provides principled tools to determine whether a system is conscious, to what degree, and the content of its experience. We consider pairs of systems constituted of simple Boolean units, one of which -- a basic stored-program computer -- simulates the other with full functional equivalence. By applying the principles of IIT, we demonstrate that (i) two systems can be functionally equivalent without being phenomenally equivalent, and (ii) that this conclusion is not dependent on the simulated system's function. We further demonstrate that, according to IIT, it is possible for a digital computer to simulate our behavior, possibly even by simulating the neurons in our brain, without replicating our experience. This contrasts sharply with computational functionalism, the thesis that performing computations of the right kind is necessary and sufficient for consciousness.

研究动机与目标

• 推动是否具有人类般智能的人工系统也会具有类似人类的意识的讨论。
• 应用 IIT 来检验功能等价的计算机是否与目标有意识系统具有相同的因果结构。
• 证明即使计算机模拟神经级过程，功能等价也不意味着现象等价。
• 概述宏观与微观架构特征如何影响整合以及意识体验的潜在存在。

提出的方法

• 建模一个目标四单元系统 PQRS 与一个功能等价的四比特计算机（simulans），含有 117 个微单元。
• 计算 IIT 的基本假设（内在性、信息、整合、排他、组成），以识别复合体并测量 φs 与 Φ。
• 在微观与宏观粒度下，将目标系统的因果结构与 simulans 的因果结构进行比较。
• 表明 simulans 分解为多个小型复合体，Φ 值很低，未能复制 PQRS 的大而集成的因果结构。
• 推广到一个图灵完备的计算机和任意目标系统，以论证在不同架构下这种分离仍然存在。
• 讨论宏观化与内在单位来说明为何在 IIT 下功能等价不能挽救现象等价。

实验结果

研究问题

• RQ1 功能（输入–输出）等价是否在 IIT 下意味着因果结构完全相同？
• RQ2 数字计算机是否能够在 According IIT 的前提下模拟目标系统的行为，同时具有相同的现象学？
• RQ3 ISO IIT 的公设如何约束功能等价的系统具有相同意识体验的可能性？
• RQ4 有哪些架构极限（微观与宏观尺度）会阻止功能等价的机器获得类似于人类的意识？

主要发现

• 一个功能等价的计算机并不具有与 PQRS 相同的因果结构（计算机 φs = 0 ibits，而 PQRS φs = 1.51 ibits）。
• 该计算机分解为 24 个小型复合体，Φ ≤ 6 ibits，均未达到 PQRS 的 Φ = 391.25 ibits。
• 宏观化尝试并未产生满足 IIT 的物理存在性公设的宏观结构，因此功能等价并不意味着现象等价。
• 即便是能够模拟任意系统的图灵完备计算机，也保持了其微观层面的因果结构与被模拟系统结构之间的分离。
• 这种分离在更大尺度上仍然存在；对 Rule 110 等复杂系统的仿真在 simulans 中仍产生微不足道、无法匹配的因果结构。