[논문 리뷰] A Theory of Universal Artificial Intelligence based on Algorithmic Complexity

Marcus Hütter|ArXiv.org|2000. 04. 03.

Computability, Logic, AI Algorithms참고 문헌 34인용 수 58

한 줄 요약

이 논문은 알고리즘 복잡도와 베이지안 의사결정 이론에 기반한 파라미터가 없는 보편적 인공지능 모델(AIξ)을 제안하며, 보편적 인도와 순차적 의사결정을 통합한다. AIξ가 가능한 한 가장 지능적인 편향 없는 에이전트임을 증명하며, 실용적으로는 계산이 불가능하지만 시간 제한이 있는 변형(AIξtl)은 다른 모든 유한한 에이전트보다 더 높은 지능을 유지한다.

ABSTRACT

Decision theory formally solves the problem of rational agents in uncertain worlds if the true environmental prior probability distribution is known. Solomonoff's theory of universal induction formally solves the problem of sequence prediction for unknown prior distribution. We combine both ideas and get a parameterless theory of universal Artificial Intelligence. We give strong arguments that the resulting AIXI model is the most intelligent unbiased agent possible. We outline for a number of problem classes, including sequence prediction, strategic games, function minimization, reinforcement and supervised learning, how the AIXI model can formally solve them. The major drawback of the AIXI model is that it is uncomputable. To overcome this problem, we construct a modified algorithm AIXI-tl, which is still effectively more intelligent than any other time t and space l bounded agent. The computation time of AIXI-tl is of the order tx2^l. Other discussed topics are formal definitions of intelligence order relations, the horizon problem and relations of the AIXI theory to other AI approaches.

연구 동기 및 목표

• 특정 환경이나 응용 분야에 종속되지 않는 공식적이고 보편적인 인공지능 이론을 개발하는 것.
• 불확실성 하에서 합리적인 에이전트 행동을 위한 솔로몬off의 보편적 인도와 순차적 의사결정 이론을 통합하는 것.
• 모든 문제 유형 간에 에이전트를 비교할 수 있는 보편적 지능 순서 관계를 정의하는 것.
• 시간과 공간에 제한된 근사치(AIξtl)를 구축하여, 다른 모든 유한한 에이전트보다 더 높은 지능을 유지하는 것.
• 보편적 인공지능 모델이 시계열 예측, 게임, 최적화, 지도 학습 등 다양한 인공지능 문제 유형에 적용 가능함을 보여주는 것.

제안 방법

• 알고리즘 확률에 기반한 보편적 사전 분포를 사용하는 의사결정 이론의 기능적 및 반복적 표현을 활용한 에이전트 기반 모델을 공식화하는 것.
• 알고리즘 확률에 기반한 보편적 반측도 ξ를 사용하여 환경의 사전 분포가 알려지지 않은 경우의 문제에 대한 해로서 보편적 AIξ 모델을 도입하는 것.
• 보편적 반측도 ξ를 사용하여 모든 계산 가능한 환경에서 베이지안 추론을 일반화하고 진짜 환경 분포로 수렴함을 보장하는 것.
• 계산 시간 t와 공간 l에 제한을 두어 계산 시간 t·2^l을 갖는 시간-공간 제한된 AIξtl 모델을 개발하는 것.
• 계산이 불가능한 AIξ 모델을 효과적으로 근사하기 위해 '최고의 투표' 알고리즘과 확장된 연속 프로그램을 사용하는 것.
• 모든 환경에서의 성능에 기반해 에이전트를 비교할 수 있는 효과적인 지능 순서 관계를 정의하며, 신뢰도 경계를 통해 분리 가능성을 확보하는 것.

실험 결과

연구 질문

• RQ1 환경이나 유틸리티 함수에 대한 사전 지식 없이도 보편적 인공지능을 공식적으로 정의할 수 있는가?
• RQ2 보편적 인도(Solomonoff)는 어떻게 순차적 의사결정 이론과 통합되어 불확실성 하에서 합리적인 에이전트를 형성할 수 있는가?
• RQ3 모든 가능한 환경에서 보편적이고 편향이 없는 에이전트의 이론적 지능 한계는 무엇인가?
• RQ4 계산이 불가능한 보편적 인공지능 모델은 어떻게 효과적으로 근사할 수 있으며, 그 이론적 슈퍼리어리티를 유지할 수 있는가?
• RQ5 보편적 인공지능 모델 AIξ는 시계열 예측, 게임 플레이, 함수 최소화 등 다양한 인공지능 문제 유형을 어떻게 해결할 수 있는가?

주요 결과

• AIξ 모델은 모든 계산 가능한 환경에서 기대 유틸리티를 최대화하므로, 가능한 한 가장 지능적인 편향 없는 에이전트임을 증명하였다.
• AIξ 모델은 진짜 환경 분포 μ로 수렴하여, 어떤 시계열 예측 과제에서나 장기적으로 최적의 성능을 보장한다.
• 시간 제한된 변형 AIξtl은 계산 시간 t와 공간 l로 제한된 다른 어떤 에이전트보다 더 높은 지능을 보이며, 계산 시간은 t·2^l이다.
• 보편적 AIξ 모델은 문제 특화 설계 없이도 시계열 예측, 전략적 게임, 함수 최소화, 지도 학습을 공식적으로 해결한다.
• 지능 순서 관계는 에이전트 간 비교를 위한 엄밀한 프레임워크를 제공하며, AIξ는 보편적 의미에서 모든 다른 에이전트를 지배한다.
• 논문은 시야 문제를 핵심 과제로 지목하고 잠재적 해결책을 논의하지만, 명확한 해결책은 제시하지 않는다.