[논문 리뷰] An Approximation of the Universal Intelligence Measure

Shane Legg, Joel Veness|arXiv (Cornell University)|2011. 09. 27.

Computability, Logic, AI Algorithms참고 문헌 16인용 수 8

한 줄 요약

이 논문은 보편지능측도(UIM)의 실용적 근사치로, 간단한 보편튜링기계(Brainfuck)에서 무작위 프로그램을 샘플링하여 이를 환경으로 삼고, 인공 에이전트의 성능을 측정함으로써 에이전트의 지능을 평가하는 알고리즘 지능지수(AIQ)를 제안한다. AIQ는 이론적 기대와 일치하는 방식으로 에이전트를 지능 순으로 정렬하며, 비인간 중심적이고 연속적인 지능 측도의 실현 가능성을 입증한다.

ABSTRACT

The Universal Intelligence Measure is a recently proposed formal definition of intelligence. It is mathematically specified, extremely general, and captures the essence of many informal definitions of intelligence. It is based on Hutter's Universal Artificial Intelligence theory, an extension of Ray Solomonoff's pioneering work on universal induction. Since the Universal Intelligence Measure is only asymptotically computable, building a practical intelligence test from it is not straightforward. This paper studies the practical issues involved in developing a real-world UIM-based performance metric. Based on our investigation, we develop a prototype implementation which we use to evaluate a number of different artificial agents.

연구 동기 및 목표

• 이론적으로 이상적인 보편지능측도(UIM)를 바탕으로 한 계산 가능하고 비인간 중심의 지능 측도를 개발하기 위해.
• UIM의 점점 증가하는 계산 비용 문제를 해결하기 위해 보편튜링기계에서 프로그램을 샘플링하는 방식으로 실용적 근사를 만드는 데 목적이 있다.
• 결과적으로 도출된 AIQ 측도가 다양한 환경에서 인공 에이전트의 지능 순서를 타당하고 일관되게 정렬하는지 평가하기 위해.
• 기준 기계와 프로그램 샘플링 전략의 변화에 대해 지능 측도가 얼마나 민감하고, 얼마나 강건한지 조사하기 위해.

제안 방법

• AIQ는 Brainfuck 기반 보편튜링기계에서 무작위 프로그램을 샘플링하여 각 프로그램을 계산 가능한 환경로 간주함으로써 UIM를 근사한다.
• 강화학습 프레임워크 내에서 누적 기대 보상 측정을 통해 샘플링된 환경들에서의 에이전트 성능을 평가한다.
• 지능 점수는 프로그램 길이(코로고로프 복잡도의 대체 척도)를 통해 유도된 가중치를 적용한 성능의 가중 평균으로 계산된다.
• 알고리즘 복잡도를 명시적으로 계산하지 않고 프로그램 길이를 히وري스틱한 근사치로 사용함으로써 복잡도 계산의 필요성을 피한다.
• 솔로몬оф의 보편사전과 훗터의 AIXI 이론을 기반으로 하되, 프로그램-환경 공간의 유한한 샘플링된 부분집합에 적용한다.
• AIQ는 단순한 반응형 및 학습 에이전트를 포함한 다양한 에이전트에 대해 구현 및 테스트하여 지능 차이에 대한 민감도를 검증한다.

실험 결과

연구 질문

• RQ1 보편튜링기계에서 프로그램을 샘플링하는 방식으로 이론적으로 계산이 불가능한 보편지능측도를 실용적으로 근사할 수 있는가?
• RQ2 결과적으로 도출된 AIQ 측도가 직관적이고 일관된 에이전트 순위를 생성하는가? 특히 더 지능적인 에이전트가 더 높은 점수를 얻는가?
• RQ3 AIQ는 기준 기계의 선택에 얼마나 민감한가? 소규모 수정에도 강건한가?
• RQ4 AIQ는 연속성과 비인간 중심성과 같은 UIM의 이론적 성질을 어느 정도 반영하는가?

주요 결과

• AIQ는 이론적 기대와 일치하는 연속적이고 비인간 중심의 지능 점수를 성공적으로 생성하며, 더 능력 있는 에이전트일수록 높은 점수를 기록한다.
• 코로고로프 복잡도의 대체 척도로 프로그램 길이를 사용함으로써 명시적인 복잡도 계산이 필요 없어져 계산 가능성이 크게 향상된다.
• AIQ는 Brainfuck 기준 기계의 소규모 변형에 대해 일관된 결과를 보이며, 기준 기계 선택에 대해 강건함을 시사한다.
• AIQ는 단순한 반응형 에이전트와 더 능력 있는 학습 에이전트를 구분할 수 있었으며, 지능 차이에 대한 민감도를 검증하였다.
• 기존의 C-테스트와 같은 방법과 달리, 샘플링된 프로그램을 직접 실행함으로써 브루트포스 프로그램 탐색의 비용 문제를 피하여 더 긴 프로그램에 대해서도 확장 가능함을 보였다.