[논문 리뷰] A Formal Measure of Machine Intelligence

Shane Legg, Marcus Hütter|ArXiv.org|2006. 04. 14.

Computability, Logic, AI Algorithms참고 문헌 15인용 수 65

한 줄 요약

이 논문은 기계 지능의 형식적이고 수학적으로 엄밀한 측도를 제안한다. 이 측도는 알고리즘 복잡도와 보편적 사전 확률을 사용하여 다양한 환경에서 문제 해결 능력을 바탕으로 하며, 기계 지능을 모든 계산 가능한 환경에 걸쳐 가중 평균 성능으로 정의한다. 이는 인간 중심적이거나 모방 기반의 테스트를 초월하는 객관적이고 계산 가능한, 그리고 보편적으로 적용 가능한 기계 지능 평가 기준을 제공한다.

ABSTRACT

A fundamental problem in artificial intelligence is that nobody really knows what intelligence is. The problem is especially acute when we need to consider artificial systems which are significantly different to humans. In this paper we approach this problem in the following way: We take a number of well known informal definitions of human intelligence that have been given by experts, and extract their essential features. These are then mathematically formalised to produce a general measure of intelligence for arbitrary machines. We believe that this measure formally captures the concept of machine intelligence in the broadest reasonable sense.

연구 동기 및 목표

• 인간 중심적이거나 과제 특정적인 테스트를 초월하는 보편적으로 적용 가능한 형식적 정의가 부족한 문제를 해결하기 위해.
• 불확실하고 동적인 환경에서 문제 해결 능력으로서 지능의 본질을 포괄하는 측도를 개발하기 위해.
• 다양한 인공 시스템의 지능을 비교하기 위한 객관적이고 수학적으로 정밀하며 계산 가능성이 있는 기준을 만들기 위해.
• 튜링 테스트나 시퀀스 예측 벤치마크와 같은 기존 테스트의 한계를 알고리즘 정보 이론에 기반하여 극복하기 위해.
• 하드웨어, 감각 기관 또는 환경의 구조에 관계없이 변하지 않는 방식으로 기계 지능을 평가할 수 있는 기반을 제공하기 위해.

제안 방법

• 프레임워크는 알고리즘 복잡도를 사용하여 콜모고로프 복잡도를 기반으로 한 환경의 알고리즘 확률로 가중된 모든 가능한 계산 가능한 환경에서의 에이전트 성능 기대치로 지능을 모델링한다.
• 성능은 각 환경에서 에이전트가 달성하는 누적 보상으로 측정되며, 지능은 모든 환경에서의 평균 성능으로 정의된다.
• 환경 분포는 소โล모프의 보편 사전 확률인 2^(-K(μ))에서 유도되며, 이는 환경의 알고리즘 복잡도에 따라 단순한 환경일수록 높은 확률을 부여한다.
• 측도는 보편적 튜링 기계와 에이전트의 행동에 동적으로 적응하는 보편적 지능 테스트의 개념을 사용하여 수학적으로 정의된다.
• 선택한 보편적 기계에 관계없이 측도는 상수 인자 범위 내에서 불변이므로, 다양한 계산 모델 간의 강건성을 확보한다.
• 콜모고로프 복잡도의 비계산 가능성 문제를 해결하기 위해 레빈의 Kt 복잡도 또는 쇤뮐러의 스피드 사전 확률을 사용한 실용적 근사치가 제안된다.

실험 결과

연구 질문

• RQ1 하드웨어나 감각 기관에 관계없이 모든 인공 시스템에 보편적으로 적용 가능한 방식으로 지능을 형식적으로 정의할 수 있는가?
• RQ2 학습, 적응, 문제 해결과 같은 인간 지능의 핵심 특징들이 수학적으로 엄밀한 측도로 포착될 수 있는가?
• RQ3 튜링 테스트와 같은 테스트에서 내재된 주관성과 편향을 피할 수 있는 단일 객관적이고 계산 가능한 지능 측도를 구축할 수 있는가?
• RQ4 콜모고로프 복잡도의 비계산 가능성 문제를 이론적 타당성을 유지하면서 어떻게 해결할 수 있는가?
• RQ5 제안된 측도가 적응성과 일반적인 문제 해결 능력으로서 직관적 지능 개념을 어느 정도 반영하는가?

주요 결과

• 제안된 지능 측도 Υ는 환경의 알고리즘 확률 2^(-K(μ))로 가중된 모든 계산 가능한 환경에서의 에이전트 성능 기대치로 엄밀히 정의된다.
• 선택한 보편적 튜링 기계에 관계없이 측도는 곱셈 상수의 범위 내에서 불변이므로 이론적 강건성을 확보한다.
• 이 측도는 정적 시퀀스 예측 테스트와는 달리 본질적으로 동적이고 상호작용적인 것이며, 따라서 적응성과 학습 행동을 더 잘 반영한다.
• 측도는 인간의 판단이 필요 없이 객관적이며, 튜링 테스트나 기타 모방 기반 평가와 구분된다.
• 정확한 측도는 콜모고로프 복잡도의 결정 불가능성으로 인해 비계산 가능하지만, Kt 또는 스피드 사전 확률을 사용한 실용적 근사치는 타당하고 이론적으로 타당하다.
• 이 형식은 AIXI 프레임워크의 지능 순서 관계와 동치임이 입증되었으며, 잘 정립된 보편 에이전트 이론에 기반한다.