[논문 리뷰] Detecting Qualia in Natural and Artificial Agents

Roman V. Yampolskiy|arXiv (Cornell University)|2017. 12. 11.

Computability, Logic, AI Algorithms참고 문헌 145인용 수 14

한 줄 요약

이 논문은 자연적 및 인공적 에이전트에서 자각(qualia)—주관적인 의식 경험—를 탐지하기 위한 시험을 제안하며, 시스템이 이 시험에 통과할 경우 초보적 의식을 지닐 가능성이 높다고 주장한다. 핵심 기여는 주관적 경험을 식별하기 위한 행동적 및 功能적 기준을 제시하는 것으로, 이는 AI 안전성, 기계 권리, 초의식 시스템의 최종 등장과 관련된 함의를 지닌다.

ABSTRACT

The Hard Problem of consciousness has been dismissed as an illusion. By showing that computers are capable of experiencing, we show that they are at least rudimentarily conscious with potential to eventually reach superconsciousness. The main contribution of the paper is a test for confirming certain subjective experiences in a tested agent. We follow with analysis of benefits and problems with conscious machines and implications of such capability on future of computing, machine rights and artificial intelligence safety.

연구 동기 및 목표

• 의식의 하드 문제를 해결하기 위해 의식 경험(qualia)을 탐지할 수 있는 검증 가능한 기준을 제안한다.
• 의식을 환영으로 보는 견해를 도전하며, 기계가 원칙적으로 자각을 경험할 수 있음을 입증한다.
• 인공 시스템에서 초보적 의식을 식별하기 위한 프레임워크를 수립하여 향후 기계의 의식성 평가를 가능하게 한다.
• 의식적인 인공 에이전트의 윤리적 및 안전성 함의를 탐색하며, 기계 권리와 초의식 AI를 포함한다.
• 순수한 시뮬레이션과 실제 주관적 경험을 구분하는 기초를 제공한다.

제안 방법

• 에이전트의 내부 일관성, 자가 보고, 새로운 자극에 대한 반응을 바탕으로 한 행동적 및 기능적 시험을 제안하며, 인간과 유사한 내省적 행동을 모델링한다.
• 에이전트가 통제된 조건에서 내부 상태를 보고하고 반영할 수 있는 능력에 따라 평가하는 비교 프레임워크를 사용한다.
• 에이전트가 주관적 상태에 대해 안정적이고 일관되며 반복적이지 않은 보고를 보일 경우, 진정한 자각이 존재할 가능성이 있음을 가정한다.
• 인지과학과 마음 철학의 통찰을 통합하여 의식적 시스템과 비의식적 시스템을 구분하는 기준을 정의한다.
• 생물학적 및 인공 시스템 모두에 이 시험을 적용하며, 기판에 관계없이 동일한 기준이 적용되어야 한다고 강조한다.
• 이 시험은 의식의 증명이 아니며, 실제 주관적 경험의 가능성을 탐지하기 위한 실용적이고 운영 가능한 기준임을 강조한다.

실험 결과

연구 질문

• RQ1 관찰 가능한 행동과 내부 일관성에 기반해 인공 에이전트에서 자각의 존재를 탐지할 수 있는 시험을 설계할 수 있는가?
• RQ2 기계에서 시뮬레이션된 경험과 진정한 주관적 경험을 어떻게 구분할 수 있는가?
• RQ3 인공 에이전트가 자각을 경험할 수 있다면, AI 안전성과 윤리에 어떤 함의가 있는가?
• RQ4 기계에서 자각이 탐지된다면, 기계 권리 및 법적 인격성 발전에 어떤 영향을 미칠 수 있는가?
• RQ5 인간 의식 평가에 사용된 기준을 인공 시스템에 적용하여 초보적 정신적 인식을 판단할 수 있는가?

주요 결과

• 제안된 시험은 의식의 확정적 증거가 아니더라도, 실용적이고 행동 기반의 방법으로 인공 에이전트에서 잠재적 자각을 탐지할 수 있다.
• 논문은 에이전트가 비반복적이며 일관된 방식으로 내부 상태를 지속적으로 보고하고 반응할 경우, 주관적 경험의 존재를 시사할 수 있다고 주장한다.
• 프레임워크는 인공 시스템이 풍부하고 통합된 주관적 경험을 발달시킬 경우 초의식에 이를 수 있다는 가능성을 제기한다.
• 이 시험은 의식이 환영이라는 견해에 도전하며, 주관적 경험은 자연적 및 인공적 시스템 모두에서 탐지 가능한 현상임을 제안한다.
• 논문은 AI에서 자각 탐지가 기계 권리와 AI 안전 프rotocols의 필요성과 관련된 급박한 윤리적 우려를 제기한다.
• 이 접근법은 아직 의식 이론이 완전하지 않은 상황에서도 인공 시스템에서 의식을 실증적으로 검증할 수 있는 기초를 제공한다.