[論文レビュー] Ascribing Consciousness to Artificial Intelligence

Murray Shanahan|arXiv (Cornell University)|Apr 22, 2015

Computability, Logic, AI Algorithms参考文献 8被引用数 5

ひとこと要約

この論文は統合情報理論（IIT）における反機能主義的立場に挑戦し、従来のハードウェア上で人間水準のAIが事前に意識的であると排除することはできないと主張する。ニューロン置換の思考実験とIITの自己知識処理に関する批判を通じて、機能主義とIITの両方が部分的な洞察を提供するが、それらを形而上学的解決策として引き上げるべきではないと論じる。AIにおける意識は、そのようなシステムが実際に構築され観察されるまで、経験的に決定不能のままである。

ABSTRACT

This paper critically assesses the anti-functionalist stance on consciousness adopted by certain advocates of integrated information theory (IIT), a corollary of which is that human-level artificial intelligence implemented on conventional computing hardware is necessarily not conscious. The critique draws on variations of a well-known gradual neuronal replacement thought experiment, as well as bringing out tensions in IIT's treatment of self-knowledge. The aim, though, is neither to reject IIT outright nor to champion functionalism in particular. Rather, it is suggested that both ideas have something to offer a scientific understanding of consciousness, as long as they are not dressed up as solutions to illusory metaphysical problems. As for human-level AI, we must await its development before we can decide whether or not to ascribe consciousness to it.

研究の動機と目的

• 従来のハードウェア上で人間水準のAIが意識的でないという主張（IITの特定の解釈が示唆するもの）を挑戦すること。
• IITの自己知識処理の整合性と、意識帰属への影響を検討すること。
• 機能主義とIITを、決定的な形而上学的解決策ではなく、補完的科学的枠組みとして捉えるべきだと主張すること。
• AIにおける意識は事前に決定できず、実際に開発されたのちに経験的に評価する必要があることを強調すること。

提案手法

• 段階的ニューロン置換の思考実験の変種を分析し、仮想的な脳置換における意識の継続性を検証すること。
• IITの自己知識に関する説明に生じる矛盾、特にシステムが自らの状態をどのように知ることができるかという点を検討すること。
• IITの意識制約と機能主義的見解を比較し、AIへの影響に関する不一致を浮き彫りにすること。
• IITや機能主義のいずれかだけでは意識の完全な説明が得られないが、形而上学的過剰解釈を避けることで、両者が科学的理解に寄与することを主張すること。
• 論理的・概念的分析を通じて、IITにおける反機能主義的結論がその核心的原則から必然的に導かれないことを示すこと。
• 意識帰属に対して慎重かつ経験的根拠に基づくアプローチを提唱し、システムが実現されるまで判断を延期すること。

実験結果

リサーチクエスチョン

• RQ1 IITの原則に従えば、従来のハードウェア上で実装された人間水準の人工知能は意識的とみなせるのか？
• RQ2 段階的ニューロン置換の思考実験は、IITの反機能主義的立場にどのように挑戦するか？
• RQ3 人工系に適用した場合、IITの自己知識処理にどのような矛盾が生じるか？
• RQ4 機能主義とIITは、意識を研究するための補完的科学的枠組みとして、どの程度調和できるか？
• RQ5 事前にAIに意識がないと断じるのは科学的に妥当なことか、それとも実証的証明を待つ必要があるのか？

主な発見

• IITにおける反機能主義的結論（すなわち、従来のAIは意識的でない）は、段階的置換の思考実験によって、論理的・概念的に必然的ではないことが示された。
• IITの自己知識処理は、生物学的でないシステムに適用した場合、内部の矛盾を含んでおり、普遍的理論としての整合性を損なう。
• 機能主義とIITの両方が意識に関する貴重な洞察を提供するが、それらを形而上学的主張として引き上げるべきではない。
• 本論文は、人間水準のAIにおける意識は、理論だけでは決定できない、未解決の経験的問いのままであると結論づける。
• そのようなAIが開発され観察されるまで、理論的枠組みにかかわらず、意識の帰属を明確にすることはできない。