[논문 리뷰] On the Foundations of Universal Sequence Prediction

Marcus Hütter|ArXiv.org|2006. 05. 03.

Computability, Logic, AI Algorithms참고 문헌 12인용 수 5

한 줄 요약

이 논문은 알고리즘 복잡도를 통해 모든 다른 사전확률을 지배하는 보편적 사전확률를 정의함으로써 솔로몬오프의 보편적 시계열 예측을 베이지안 시계열 예측의 기초적 해결책으로 설정한다. 이 보편적 사전확률는 고전적 베이지안 방법이 겪는 핵심 철학적 및 기술적 문제들—예를 들어 보편적 가설에 대해 후행 확률이 0이 되는 문제, 재매개변수화 민감도, 오래된 증거 문제—를 피하면서도, 계산 가능하지 않은 환경에서도 강한 수렴성과 성능을 보장한다.

ABSTRACT

Solomonoff completed the Bayesian framework by providing a rigorous, unique, formal, and universal choice for the model class and the prior. We discuss in breadth how and in which sense universal (non-i.i.d.) sequence prediction solves various (philosophical) problems of traditional Bayesian sequence prediction. We show that Solomonoff's model possesses many desirable properties: Fast convergence and strong bounds, and in contrast to most classical continuous prior densities has no zero p(oste)rior problem, i.e. can confirm universal hypotheses, is reparametrization and regrouping invariant, and avoids the old-evidence and updating problem. It even performs well (actually better) in non-computable environments.

연구 동기 및 목표

• 모델 클래스와 사전확률의 선택과 같은 베이지안 시계열 예측의 기초적 문제를 해결하기 위해.
• 오래된 증거 역설, 보편적 가설의 확인, 재매개변수화 불변성과 같은 철학적 문제를 해결하기 위해.
• 솔로몬오프의 보편적 사전확률가 계산 가능한 환경뿐 아니라 비계산 가능한 환경에서도 고전적 연속 사전확률보다 뛰어난 성능을 보임을 보여주기 위해.
• 보편적 혼합 M이 강한 수렴 경계를 확보하고 0 후행 확률 문제를 피하는 것을 보여주기 위해.
• 보편적 예측이 최소최대 의미에서 일관되고 최적임을 보장하는 형식적 프레임워크를 제공하기 위해.

제안 방법

• 모든 계산 가능한 환경 ν에 대해 보편적 사전확률 wν^U = 2^(-K(ν))를 코르고로프 복잡도 K(ν)를 사용해 정의한다.
• 보편적 혼합 M(x)를 모든 ν에 대한 wν^U × ν(x)의 합으로 정의하여, 무작위 입력을 가진 보편적 튜링 기계가 x를 출력할 확률을 나타낸다.
• 보편성 보장을 위해 모든 계산 가능한 측도를 포함하는 모델 클래스 M_U에 보편적 사전확률를 적용한다.
• 예측 오차를 근거로 상대 엔트로피 D_n(μ||M)을 사용하여, 계산 가능한 μ에 대해 D_n(μ||M) ≤ K(μ)ln2임을 보여준다.
• 부등식 M(x) ≥ 2^(-K(ξ))ξ(x)를 사용하여 M이 임의의 계산 가능한 혼합 ξ를 지배함을 보여준다.
• 기존 지식 y를 보편적 사전확률에 통합하기 위해 조건부 복잡도 K(ν|y)를 도입하여 U-의존도를 감소시킨다.

실험 결과

연구 질문

• RQ1 어떻게 고전적 베이지안 모델 선택에서의 모호함을 해소할 수 있는 보편적 사전확률를 형식적이고 유일하게 정의할 수 있는가?
• RQ2 솔로몬오프의 보편적 사전확률는 보편적 가설에 대해 0이 아닌 후행 확률을 보장함으로써 0 후행 확률 문제를 어떻게 피하는가?
• RQ3 고전적 연속 사전확률와 비교해 복잡도가 보편적 사전확률가 재매개변수화 및 재조합 불변성을 확보하는 방식은 무엇인가?
• RQ4 고전적 방법이 실패하는 비계산 가능한 환경에서도 보편적 시계열 예측가 강력한 성능을 유지할 수 있는가?
• RQ5 알고리즘 복잡도는 최소최대 최적 예측 경계를 달성하는 데 어떤 역할을 하는가?

주요 결과

• 솔로몬오프의 보편적 사전확률 wν^U = 2^(-K(ν))는 모든 보편적 가설에 대해 0이 아닌 후행 확률을 보장하여 확인 문제를 해결한다.
• 보편적 혼합 M(x)는 모든 계산 가능한 혼합 ξ(x)를 지배하며, M(x) ≥ 2^(-K(ξ))ξ(x)를 만족함으로써 우월하거나 동일한 성능을 보인다.
• 모든 계산 가능한 환경 μ에 대해 상대 엔트로피 D_n(μ||M)은 K(μ)ln2로 유한한 상한으로 제한되며, n과 무관하게 일정하다. 이는 고전적 방법이 로그적으로 증가하는 것과는 대조된다.
• 보편적 사전확률는 재매개변수화 및 데이터 재조합에 대해 불변하므로, 연속 사전확률의 핵심 약점인 불변성 문제를 피한다.
• M가 모든 계산 가능한 가설에 대해 처음부터 0이 아닌 확률를 할당하므로 오래된 증거 문제 및 업데이트 문제를 피한다.
• 비계산 가능한 환경에서도 M은 모든 계산 가능한 혼합 ξ와 비교해 유한한 K(ξ) 의존성과 지배 관계 덕분에 최소한 동일한 성능을 보인다.