[논문 리뷰] On the Compatibility Between Physics and Intelligent Organisms

John C. Collins|ArXiv.org|2001. 02. 09.

Computational Physics and Python Applications참고 문헌 1인용 수 3

한 줄 요약

이 논문은 로저 펜로즈가 인간의 수학적 통찰력이 계산의 한계를 초월한다고 주장하는 데 도전하며, 그가 튜링의 정지 정리(_halting theorem_)를 활용해 인공지능을 배제하는 데서 비롯된 잘못된 가정에 기반한다: 상호작용적이고 지능적인 시스템을 본질적인 행동을 잃지 않고 비상호작용적인 튜링 기계로 환원할 수 있다고 보는 것이다. 저자는 지능적인 생물을 시뮬레이션할 경우 정지 정리에서 요구하는 정확한 입출력 대응 관계가 유지되지 않음을 보여주며, 이는 펜로즈가 의식이나 인공지능을 위해 새로운 물리학이 필요하다는 결론을 내리는 데 있어 논리적으로 잘못된 것임을 입증한다.

ABSTRACT

It has been commonly argued, on the basis of Goedel's theorem and related mathematical results, that true artificial intelligence cannot exist. Penrose has further deduced from the existence of human intelligence that fundamental changes in physical theories are needed. I provide an elementary demonstration that these deductions are mistaken.

연구 동기 및 목표

• 로저 펜로즈가 인간의 수학적 통찰력이 비계산적이라고 주장하고, 따라서 새로운 물리학이 필요하다는 주장을 반박하기 위해.
• 상호작용적 지능 프로그램이 정지 정리 적용을 위해 비상호작용 튜링 기계로 환원될 수 있다는 핵심 가정을 다루기 위해.
• 상호작용적 시스템을 비상호작용 형태로 변환하는 데서 반드시 발생하는, 정지 정리가 적용되기 위해 필요한 정확한 대응 관계가 손상된다는 것을 보여주기 위해.
• 펜로즈가 진정한 인공지능이 불가능하고, 비계산적 물리학이 필요하다고 결론 내리는 것이 논리적으로 잘못되었음을 입증하기 위해.
• 이상화된 튜링 기계와 실제 상호작용 소프트웨어 사이의 차이를 명확히 하여, 실제 지능이 형식적 계산 모델을 초월해 강건함을 강조하기 위해.

제안 방법

• 펜로즈의 주장인 인간 수학자가 자기참조 프로그램의 정지를 증명할 수 있지만, 계산 시스템은 그렇지 않다는 점을 분석한다.
• 상호작용적 컴퓨터 프로그램(예: 지능형 에이전트)이 본질적인 행동을 변화시키지 않고 비상호작용 튜링 기계로 환원될 수 있다는 가정의 오류를 밝힌다.
• 상호작용 프로그램의 비상호작용 버전을 구성하려면 프로그램이 향후 질문할 모든 질문들에 대한 사전 지식이 필요하다는 것을 보여준다.
• 질문은 프로그램의 동적이고 환경에 의존하는 행동에 따라 달라지므로, 이러한 사전 지식은 확보될 수 없다고 주장한다.
• 수학자를 시뮬레이션하고 기록된 답변 장치를 사용하는 사고 실험을 통해, 입력이 기록 과정에 의해 변경될 경우 정지 정리의 조건이 위반됨을 보여준다.
• 정지 정리의 증명은 증명 서브루틴과 증명 대상 간의 완벽한 일치를 요구하며, 이는 현실적인 시뮬레이션에서는 유지될 수 없다는 것을 입증한다.

실험 결과

연구 질문

• RQ1 상호작용적이고 지능적인 컴퓨터 프로그램을 계산 내용을 잃지 않고 비상호작용 튜링 기계로 환원할 수 있는가?
• RQ2 시뮬레이션된 지능적인 생물에 튜링의 정지 정리를 적용하는 것이 타당한가?
• RQ3 정지 정리에서 요구하는 정확한 입출력 대응 관계가 인간과 유사한 수학적 추론을 인공 시스템에서 시뮬레이션하는 데 방해가 되는가?
• RQ4 실제 지능 프로그램의 행동을 논리적 정리(예: 정지 문제)의 목적을 위해 정적 비상호작용 서브루틴으로 완전히 포괄할 수 있는가?
• RQ5 펜로즈가 의식을 위해 새로운 물리학이 필요하다고 주장하는 것은 계산 가능성 이론의 오용에 기반하는가?

주요 결과

• 정지 정리가 요구하는 정확한 입출력 행동을 유지하기 위해 상호작용적 지능 프로그램을 비상호작용 형태로 변환하는 것은 불가능하며, 이는 정리의 타당성을 손상시킨다.
• 지능적 프로그램이 향후 질문할 모든 질문에 대한 사전 기록이 필요하지만, 질문은 동적이고 예측 불가능한 상호작용에 따라 달라지므로 이를 확보하는 것은 불가능하다.
• 실제 인간 수학자를 비상호작용 시스템으로 시뮬레이션하려는 尝시도는 시스템의 행동을 변화시켜 정지 정리의 증명에 필요한 일치 관계를 파괴한다.
• 정지 정리의 결론인 '기계는 자신의 비정지 행동을 증명할 수 없다'는 것은 상호작용 시스템에는 적용되지 않으며, 이는 정리의 추상적 튜링 기계와 동일하지 않기 때문이다.
• 펜로즈가 인간 지능이 비계산적이라서 새로운 물리학이 필요하다고 결론 내리는 것은, 상호작용 시스템과 형식적 계산 간의 관계를 잘못 해석한 데 기반한 것으로 논리적으로 잘못되었다.
• 논문은 현재의 물리학 이론가 충분히 의식의 유물론적 설명을 가능하게 하며, 진정한 인공지능은 기존의 계산 프레임워크 내에서 여전히 가능하다고 결론 내린다.