[论文解读] (Non-)Equivalence of Universal Priors

I. G. Wood, Peter Sunehag+1 more|arXiv (Cornell University)|Nov 16, 2011

Computability, Logic, AI Algorithms参考文献 8被引用 5

一句话总结

本文厘清了算法信息论中三种通用先验形式之间的关系：Solomonoff先验、通用混合分布与普遍占优半测度。证明了Solomonoff先验与通用混合分布完全等价，但普遍占优半测度构成一个严格更大的类，通过构造一个违反通用混合分布所满足的关键不等式的反例得以证实。

ABSTRACT

Ray Solomonoff invented the notion of universal induction featuring an aptly termed "universal" prior probability function over all possible computable environments. The essential property of this prior was its ability to dominate all other such priors. Later, Levin introduced another construction --- a mixture of all possible priors or `universal mixture'. These priors are well known to be equivalent up to multiplicative constants. Here, we seek to clarify further the relationships between these three characterisations of a universal prior (Solomonoff's, universal mixtures, and universally dominant priors). We see that the the constructions of Solomonoff and Levin define an identical class of priors, while the class of universally dominant priors is strictly larger. We provide some characterisation of the discrepancy.

研究动机与目标

• 厘清三种主要通用先验形式之间的正式关系：Solomonoff先验、通用混合分布与普遍占优半测度。
• 解决文献中长期存在的模糊问题：这些形式是否等价或彼此独立。
• 确定普遍占优半测度并非通用混合分布的精确条件。
• 对通用混合分布类与更广泛的普遍占优可枚举半测度类之间的差异提供精确刻画。

提出的方法

• 定义三个关键概念：通过单调通用图灵机定义的Solomonoff先验，作为所有可枚举半测度的加权和的通用混合分布，以及在该类中普遍占优所有其他半测度的普遍占优半测度。
• 通过展示其构造在程序长度与前缀编码下产生完全相同的先验类，证明Solomonoff先验与通用混合分布的等价性。
• 为任意Solomonoff先验 $ M $ 建立差值 $ M(x) - M(x0) - M(x1) $ 的下界，表明其至少为 $ c \cdot 2^{-K(\ell(x))} $，其中常数 $ c > 0 $。
• 构造一个反例——普遍占优半测度 $ \delta' $，满足 $ \delta'(\epsilon) = \delta'(0) + \delta'(1) $，违反了通用混合分布所要求的不等式。
• 利用字符串长度 $ n $ 的Kolmogorov复杂度 $ K(n) $ 推导出通用混合分布的最小间隙条件。
• 利用前缀自由程序集的均匀测度，将程序空间与先验概率联系起来。

实验结果

研究问题

• RQ1 在可枚举半测度类中，Solomonoff先验与通用混合分布是否形式上等价？
• RQ2 每个普遍占优可枚举半测度是否也是通用混合分布？
• RQ3 哪些结构或定量条件可区分通用混合分布与更广泛的普遍占优半测度类？
• RQ4 仅具有普遍占优性是否足以保证在通用归纳中收敛？还是通用混合分布的额外性质提供了优势？
• RQ5 能否对通用混合分布与普遍占优半测度之间的差异提供精确刻画？

主要发现

• Solomonoff先验类与通用混合分布类完全等价：$ \mathcal{U}_M = \mathcal{U}_\xi $。
• 每个通用混合分布均满足差值下界 $ M(x) - M(x0) - M(x1) \geq c \cdot 2^{-K(\ell(x))} $，其中常数 $ c > 0 $，且与 $ x $ 无关。
• 存在不满足该间隙条件的普遍占优可枚举半测度，证明其并非通用混合分布。
• 构造了一个反例 $ \delta' $，使得 $ \delta'(\epsilon) = \delta'(0) + \delta'(1) $，违反了通用混合分布所要求的间隙不等式。
• 普遍占优可枚举半测度类严格包含通用混合分布类：$ \mathcal{U}_\xi \subset \mathcal{U}_\delta $。
• 差异的根源在于：通用混合分布要求其半测度行为中存在最小信息论间隙，而某些普遍占优半测度中则缺乏这一特性。