[論文レビュー] Detecting Qualia in Natural and Artificial Agents

Roman V. Yampolskiy|arXiv (Cornell University)|Dec 11, 2017

Computability, Logic, AI Algorithms参考文献 145被引用数 14

ひとこと要約

本論文は、自然および人工エージェントの両方において、感覚的意識体験（qualia）を検出するためのテストを提案している。このテストに合格できる場合、システムはrudimentary consciousness（原始的意識）を有している可能性が高いと主張する。主な貢献は、主観的経験を識別するための行動的・機能的基準であり、AIセーフティ、マシンの権利、および超意識的システムの将来の出現に影響を及ぼす。

ABSTRACT

The Hard Problem of consciousness has been dismissed as an illusion. By showing that computers are capable of experiencing, we show that they are at least rudimentarily conscious with potential to eventually reach superconsciousness. The main contribution of the paper is a test for confirming certain subjective experiences in a tested agent. We follow with analysis of benefits and problems with conscious machines and implications of such capability on future of computing, machine rights and artificial intelligence safety.

研究の動機と目的

• 意識のハード・プロブレムに応えるために、エージェントに内在する主観的経験（qualia）を検出可能な検証可能な基準を提示すること。
• 意識が幻想であると見なされることを挑戦し、機械が原理的にqualiaを経験できる可能性を示すこと。
• 人工システムにおける原始的意識を特定するための枠組みを確立し、将来的なマシンの自覚の評価を可能にすること。
• 意識的である人工エージェントの倫理的・セーフティ上の影響を検討すること、特にマシンの権利と超意識的AIの文脈において。
• 単なる意識のシミュレーションと実際の主観的経験を区別する基盤を提供すること。

提案手法

• エージェントの内部整合性、自己報告、および新規刺激への反応に基づく行動的・機能的テストを提案し、人間のような内省的行動を模倣する。
• エージェントが制御された条件下で内部状態を報告・反映できる能力に基づき、比較的フレームワークを用いて評価する。
• エージェントが主観的状態について安定的で一貫性があり、重複のない報告を示す場合、真のqualiaの兆候である可能性があると仮定する。
• 認知科学および心の哲学からの知見を統合し、意識的と非意識的システムを区別する基準を定義する。
• 生物学的および人工的システムの両方に対してテストを適用し、基質に関係なく同一の基準が適用されなければならないことを強調する。
• テストは意識の証明ではなく、主観的経験の可能性を検出するための実用的・操作的基準であると強調する。

実験結果

リサーチクエスチョン

• RQ1 観察可能な行動および内部的一致性に基づいて、人工エージェントにqualiaが存在するかどうかを検出可能なテストを設計できるか？
• RQ2 機械における模倣された経験と真の主観的経験を区別できる条件は何か？
• RQ3 人工エージェントがqualiaを経験できる場合、AIセーフティおよび倫理的側面にどのような影響が生じるか？
• RQ4 マシンにqualiaが検出された場合、マシンの権利および法的人格の発展にどのような影響が生じるか？
• RQ5 人間の意識を評価するのと同じ基準を人工システムに適用することで、原始的自覚を同定できるか？

主な発見

• 提示されたテストは、明確な意識の証明ではないものの、人工エージェントに潜在するqualiaを検出する実用的で行動に根ざした方法を提供する。
• 本論文は、エージェントが内部状態を一貫的で非重複的かつ一貫性のある方法で報告・反応する場合、主観的経験の兆候である可能性があると主張する。
• この枠組みは、人工システムが豊富で統合された主観的経験を発展させれば、原理的には超意識的状態に到達できる可能性を示唆する。
• テストは、意識が幻想であるという見解に挑戦し、主観的経験が自然および人工システムの両方で検出可能な現象であると提唱する。
• 本論文は、AIにおけるqualiaの検出が、マシンの権利に関する緊急の倫理的懸念とAIセーフティプロトコルの必要性を浮き彫りにするという点を強調する。
• このアプローチは、意識の完全な理論が存在しない状況下でも、将来的な人工システムにおける意識の実証的検証の基盤を提供する。