[논문 리뷰] (Non-)Equivalence of Universal Priors

I. G. Wood, Peter Sunehag외 1명|arXiv (Cornell University)|2011. 11. 16.

Computability, Logic, AI Algorithms참고 문헌 8인용 수 5

한 줄 요약

이 논문은 알고리즘 정보이론에서 보편 사전확률의 세 가지 표현 방식인 솔로몬오프 사전확률, 보편 혼합, 보편적으로 지배하는 준측도 간의 관계를 명확히 한다. 솔로몬오프 사전확률과 보편 혼합이 정확히 동치임을 증명하지만, 보편적으로 지배하는 준측도는 이를 포함하는 더 큰 클래스임을 보이며, 보편 혼합이 만족하는 핵심 부등식을 위반하는 구성에 의해 이를 입증한다.

ABSTRACT

Ray Solomonoff invented the notion of universal induction featuring an aptly termed "universal" prior probability function over all possible computable environments. The essential property of this prior was its ability to dominate all other such priors. Later, Levin introduced another construction --- a mixture of all possible priors or `universal mixture'. These priors are well known to be equivalent up to multiplicative constants. Here, we seek to clarify further the relationships between these three characterisations of a universal prior (Solomonoff's, universal mixtures, and universally dominant priors). We see that the the constructions of Solomonoff and Levin define an identical class of priors, while the class of universally dominant priors is strictly larger. We provide some characterisation of the discrepancy.

연구 동기 및 목표

• 보편 사전확률의 세 주요 표현 방식인 솔로몬오프 사전확률, 보편 혼합, 보편적으로 지배하는 준측도 간의 형식적 관계를 명확히 하는 것.
• 문헌에서 오랫동안 애매하게 여겨진, 이러한 표현 방식들이 동치인지 또는 상이한지에 대한 의문을 해결하는 것.
• 보편적으로 지배하는 준측도가 보편 혼합이 되지 않는 정확한 조건을 규명하는 것.
• 보편 혼합의 클래스와 더 넓은 보편적으로 지배하는 열거 가능한 준측도의 클래스 간 격차를 특성화하는 것.

제안 방법

• 세 핵심 개념을 정의한다: 단조형 보편 튜링 기계를 통한 솔로몬오프 사전확률, 모든 열거 가능한 준측도의 가중합으로서의 보편 혼합, 그리고 그 클래스의 모든 준측도를 지배하는 보편적으로 지배하는 준측도.
• 프로그램 길이와 접두어 부호화를 이용해, 프로그램의 구성 방식이 동일한 사전확률 클래스를 도출함을 보여, 솔로몬오프 사전확률과 보편 혼합이 동치임을 증명한다.
• 모든 솔로몬오프 사전확률 $ M $ 에 대해 $ M(x) - M(x0) - M(x1) $ 의 하한을 도출하며, 이 값이 어떤 상수 $ c > 0 $ 에 대해 $ c \cdot 2^{-K(\ell(x))} $ 보다 크다는 것을 보인다.
• 보편 혼합이 만족해야 할 부등식을 위반하는 반례로, 보편적으로 지배하는 준측도 $ \delta' $ 를 구성한다. 이 경우 $ \delta'(\epsilon) = \delta'(0) + \delta'(1) $ 를 만족한다.
• 문자열 길이 $ n $ 의 코모고로프 복잡도 $ K(n) $ 를 이용해 보편 혼합의 최소 갭 조건을 유도한다.
• 프로그램 공간과 사전확률 간의 관계를 유도하기 위해 접두어 자유 집합의 균일 측도를 활용한다.

실험 결과

연구 질문

• RQ1 보편 사전확률의 클래스 내에서 솔로몬오프 사전확률과 보편 혼합은 형식적으로 동치인가?
• RQ2 모든 보편적으로 지배하는 열거 가능한 준측도는 보편 혼합인가?
• RQ3 보편 혼합과 더 넓은 보편적으로 지배하는 준측도의 클래스를 구분하는 구조적 또는 정량적 조건은 무엇인가?
• RQ4 보편적인 지배성 속성이 보편 추론의 수렴성에 충분한가, 아니면 보편 혼합의 추가 성질이 이점이 되는가?
• RQ5 보편 혼합과 보편적으로 지배하는 준측도 간의 격차를 정확히 특성화할 수 있는가?

주요 결과

• 솔로몬오프 사전확률의 클래스와 보편 혼합의 클래스는 정확히 동치이다: $ \mathcal{U}_M = \mathcal{U}_\xi $.
• 모든 보편 혼합은 $ M(x) - M(x0) - M(x1) \geq c \cdot 2^{-K(\ell(x))} $ 를 만족하며, 이때 $ c > 0 $ 이고 $ x $ 와 무관하다.
• 이 갭 조건을 만족하지 않는 보편적으로 지배하는 열거 가능한 준측도가 존재하므로, 이들은 보편 혼합이 아님을 증명한다.
• 반례 $ \delta' $ 가 구성되며, 이 경우 $ \delta'(\epsilon) = \delta'(0) + \delta'(1) $ 를 만족하여 보편 혼합이 요구하는 갭 부등식을 위반한다.
• 보편적으로 지배하는 열거 가능한 준측도의 클래스는 보편 혼합의 클래스를 엄격히 포함한다: $ \mathcal{U}_\xi \subset \mathcal{U}_\delta $.
• 격차의 근본 원인은 보편 혼합이 준측도 행동에서 최소한의 정보 이론적 갭을 요구하기 때문이며, 일부 보편적으로 지배하는 준측도에서는 이 조건이 존재하지 않는다.