[논문 리뷰] Universal Intelligence: A Definition of Machine Intelligence

Shane Legg, Marcus Hütter|ArXiv.org|2007. 12. 20.

Computability, Logic, AI Algorithms참고 문헌 21인용 수 6

한 줄 요약

이 논문은 AIXI 유사 최적 에이전트에서 유도된 보편 지능 측정법(Υ)을 사용하여 모든 계산 가능한 환경에서의 보편적 성능을 기반으로 기계 지능에 대한 수학적으로 형식화된 정의를 제안한다. 주요 기여는 인간, 동물, 기계를 포함한 모든 에이전트에 적용 가능한 일반적이고 객관적이며 형식화된 지능 측정법을 제공함으로써 다양한 시스템 간의 지능을 직접 비교할 수 있도록 한다.

ABSTRACT

A fundamental problem in artificial intelligence is that nobody really knows what intelligence is. The problem is especially acute when we need to consider artificial systems which are significantly different to humans. In this paper we approach this problem in the following way: We take a number of well known informal definitions of human intelligence that have been given by experts, and extract their essential features. These are then mathematically formalised to produce a general measure of intelligence for arbitrary machines. We believe that this equation formally captures the concept of machine intelligence in the broadest reasonable sense. We then show how this formal definition is related to the theory of universal optimal learning agents. Finally, we survey the many other tests and definitions of intelligence that have been proposed for machines.

연구 동기 및 목표

• 다양한 시스템(인간, 동물, 인공 에이전트 포함)에 적용 가능한 보편적으로 인정받는 공식적인 기계 지능 정의의 부재를 해결하기 위해.
• 인간 지능의 비공식적 전문가 정의를 일반적인 의미에서 지능의 본질을 포괄하는 수학적으로 정밀한 측정법으로 형식화하기 위해.
• 모든 가능한 계산 가능한 환경에서의 에이전트 성능을 평가하는 보편 지능 측정법(Υ)을 개발하여 지능의 객관적 비교를 가능하게 하기 위해.
• 인간 중심 또는 모방 기반 벤치마크(예: 튜링 테스트)에 국한되지 않는 기계 지능의 테스트 및 측정을 위한 이론적 기반을 마련하기 위해.
• 실제 에이전트를 위한 실용적이고 접근 가능한 보편 지능의 근사치를 개발할 수 있도록 하는 프레임워크를 구축하기 위해.

제안 방법

• 10개의 전문가가 제시한 인간 지능 정의의 핵심 특징을 추출하여 보편적 프레임워크로 일반화한다.
• 지능이 모든 계산 가능한 환경에서의 성능으로 측정되는 에이전트-환경 상호작용 모델을 정의한다.
• 보편 지능 측정법 Υ를 도입하여, 알고리즘적 복잡도(소로몬호프 사전)에 따라 가중된 모든 가능한 환경에서의 에이전트 성능 기대치로 정의한다.
• 이론적 최적 에이전트인 AIXI 프레임워크를 사용하여 보편 지능 측정법을 실현하며, Υ가 최적의 학습 및 의사결정을 포괄함을 보여준다.
• 다양한 에이전트(예: AIXI, 인간, 동물, 단순 프로그램)에 측정법을 적용하여 그 보편성과 일관성을 입증한다.
• 이해, 창의성, 또는 의식과 같은 성질들은 잘 정의된 환경에서의 측정 가능한 성능에 영향을 주는 한계 내에서만 지능과 관련이 있다고 주장한다.

실험 결과

연구 질문

• RQ1 인간 지능의 어떤 기본적 특징들이 모든 에이전트에 적용 가능한 일반적이고 형식화된 정의로 추상화될 수 있는가?
• RQ2 물리적 형태, 센서, 환경이 매우 다른 에이전트 간의 공정한 비교가 가능한 보편 지능 측정법을 구성할 수 있는가?
• RQ3 제안된 보편 지능 측정법 Υ는 AIXI와 같은 최적 학습 및 의사결정 이론과 어떻게 관련이 있는가?
• RQ4 실제 에이전트를 위한 보편 지능 측정법을 얼마나 실용적으로 근사화할 수 있는가?
• RQ5 의식이나 언어와 같은 인간 중심의 특성이 없는 시스템에 적용했을 때도 보편 지능 측정법 Υ는 여전히 유효하고 의미 있는가?

주요 결과

• 제안된 보편 지능 측정법 Υ는 소로몬호프 사전을 사용하여 모든 계산 가능한 환경에서의 성능을 평가함으로써 기계 지능의 본질을 수학적으로 정형화한다.
• 측정법은 이론적으로 최적이며, AIXI 에이전트와 일치하여 모든 환경에서 기대 보상을 최대화하므로 보편 지능의 이론적 상한선을 나타낸다.
• 이 프레임워크는 이해, 창의성, 감정과 같은 성질이 잘 정의된 환경에서 측정 가능한 성능에 영향을 주는 한도 내에서만 지능과 관련이 있다고 보여준다.
• 논문은 보편 지능이 노 프리 리얼 퍼즐 정리에 의해 무효화되지 않는다고 주장한다. 이는 측정법이 환경에 대한 균일한 분포를 가정하지 않기 때문이다.
• 보편 지능 측정법은 인간, 동물, 기계를 포함한 다양한 에이전트를 비교할 수 있는 실용적이고 근사 가능한 지능 테스트를 개발하기 위한 기반을 제공한다.
• 형식화된 정의를 통해 주관적이거나 인간 중심의 기준을 초월하여 체계 간에 엄밀하고 객관적이며 수학적으로 탄탄한 지능 비교가 가능해진다.