[論文レビュー] Dissociating Artificial Intelligence from Artificial Consciousness

Graham Findlay, William Marshall+5 more|arXiv (Cornell University)|Dec 5, 2024

Computational Physics and Python Applications被引用数 6

ひとこと要約

論文は統合情報理論（IIT）を用いて、機能的に同等のコンピュータが原因–結果の構造を異にし、それゆえ意識体験も異なることを示し、AIは主観的な経験を再現せずに挙動を模倣できる可能性があると主張する。

ABSTRACT

Developments in machine learning and computing power suggest that artificial general intelligence is within reach. This raises the question of artificial consciousness: if a computer were to be functionally equivalent to a human, being able to do all we do, would it experience sights, sounds, and thoughts, as we do when we are conscious? Answering this question in a principled manner can only be done on the basis of a theory of consciousness that is grounded in phenomenology and that states the necessary and sufficient conditions for any system, evolved or engineered, to support subjective experience. Here we employ Integrated Information Theory (IIT), which provides principled tools to determine whether a system is conscious, to what degree, and the content of its experience. We consider pairs of systems constituted of simple Boolean units, one of which -- a basic stored-program computer -- simulates the other with full functional equivalence. By applying the principles of IIT, we demonstrate that (i) two systems can be functionally equivalent without being phenomenally equivalent, and (ii) that this conclusion is not dependent on the simulated system's function. We further demonstrate that, according to IIT, it is possible for a digital computer to simulate our behavior, possibly even by simulating the neurons in our brain, without replicating our experience. This contrasts sharply with computational functionalism, the thesis that performing computations of the right kind is necessary and sufficient for consciousness.

研究の動機と目的

• 人間のような知性を持つ人工システムが人間のような意識を持つかどうかを動機づける。
• 機能的に等価なコンピュータがターゲットとなる意識システムと同じ原因–結果構造を共有しているかをIITを適用して検証する。
• コンピュータが神経レベルの過程を模倣していても、機能的等価性が現象的等価性を意味しないことを示す。
• マクロとミクロのアーキテクチャ特徴が統合性と意識体験の存在の可能性にどう影響するかを概説する。

提案手法

• ターゲットとなる4-ユニット系 PQRS と機能的に等価な4ビットコンピュータ（simulans）を117のミクロ単位としてモデル化する。
• IITの前提（内在性、情報、統合、排他、構成）を計算し、複合体とφ・Φを特定する。
• ターゲットの原因–結果構造をミクロおよびマクロの粒度でsimulansの構造と比較する。
• simulansは多くの小さな複合体に分裂し、φが低く、PQRSの大規模で統合された原因–結果構造を再現できないことを示す。
• 任意のターゲット系とチューリング完全コンピュータに拡張し、アーキテクチャを超えて逸脱が持続することを主張する。
• マクロ化と内在的ユニットを議論し、IITの下で機能的等価性が現象的等価性を救えない理由を示す。

実験結果

リサーチクエスチョン

• RQ1 IITの下で機能的（入力–出力）等価性は原因–結果構造を完全に同一にするか。
• RQ2 デジタルコンピュータがIITに従ってターゲット系の挙動を模倣しつつ、同じ現象論を共有することができるか。
• RQ3 ISO IIT前提が、機能的に等価な系が同一の意識体験を持つ可能性をどのように制約するか。
• RQ4 マイクロ対マクロのスケールを含む建築的限界は、機能的等価な機械が人間のような意識を獲得することを妨げるのか。

主な発見

• 機能的に等価なコンピュータはPQRSと同じ原因–結果構造を持たない（コンピュータのφは0 ibits、PQRSのφは1.51 ibits）。
• コンピュータは24個の小さな複合体に分裂し、Φは ≤6 ibitsで、いずれもPQRSのΦ=391.25 ibitsに匹敵しない。
• マクロ化の試みはIITの物理的存在性前提を満たすマクロを生み出さず、機能的等価性は現象的等価性を意味しない。
• チューリング完全なコンピュータでも、任意の系を模倣できても、ミクロレベルの原因–結果構造と模倣系の構造との間に逸脱が保持される。
• より大きなスケールでも逸脱は持続する；Rule 110や他の複雑系のシミュレーションでもsimulansに対して平凡で一致しない原因–結果構造を生み出す。