[論文レビュー] (Non-)Equivalence of Universal Priors

I. G. Wood, Peter Sunehag+1 more|arXiv (Cornell University)|Nov 16, 2011

Computability, Logic, AI Algorithms参考文献 8被引用数 5

ひとこと要約

この論文は、アルゴリズム的情報理論における普遍的事前分布の3つの定式化、すなわちソロモンoff事前分布、普遍的混合、普遍的に優越する半測度の間の関係を明確にする。ソロモンoff事前分布と普遍的混合は正確に同等であることが証明されるが、普遍的に優越する半測度は、普遍的混合が満たす重要な不等式を破る構成によって示されるように、厳密に大きいクラスを形成する。

ABSTRACT

Ray Solomonoff invented the notion of universal induction featuring an aptly termed "universal" prior probability function over all possible computable environments. The essential property of this prior was its ability to dominate all other such priors. Later, Levin introduced another construction --- a mixture of all possible priors or `universal mixture'. These priors are well known to be equivalent up to multiplicative constants. Here, we seek to clarify further the relationships between these three characterisations of a universal prior (Solomonoff's, universal mixtures, and universally dominant priors). We see that the the constructions of Solomonoff and Levin define an identical class of priors, while the class of universally dominant priors is strictly larger. We provide some characterisation of the discrepancy.

研究の動機と目的

• 普遍的事前分布の3つの主要な定式化、すなわちソロモンoff事前分布、普遍的混合、普遍的に優越する半測度の間の正式な関係を明確化すること。
• これらの定式化が同等か別個かについて、長年の文献上の曖昧さを解消すること。
• 普遍的に優越する半測度が普遍的混合でない場合の明確な条件を同定すること。
• 普遍的混合のクラスとより広いクラスである普遍的に優越する効用的半測度の間の差異を特徴づけること。

提案手法

• 3つの主要概念を定義する：モノトーンな普遍的チューリング機械によるソロモンoff事前分布、すべての効用的半測度の重み付き和としての普遍的混合、およびそのクラス内ですべての他の半測度を優越する普遍的に優越する半測度。
• プログラム長とプレフィックス符号化を用いて、構成が同一の事前分布のクラスをもたらすことを示すことにより、ソロモンoff事前分布と普遍的混合の同等性を証明する。
• 任意のソロモンoff事前分布 $ M $ について、差 $ M(x) - M(x0) - M(x1) $ の下界を確立し、ある定数 $ c > 0 $ に対して $ c \cdot 2^{-K(\ell(x))} $ 以上であることを示す。
• 普遍的混合が満たすべき不等式を破る反例として、$ \delta'(\epsilon) = \delta'(0) + \delta'(1) $ を満たす普遍的に優越する半測度 $ \delta' $ を構成する。
• 文字列長 $ n $ のコルモゴロフ複雑性 $ K(n) $ を用いて、普遍的混合の最小ギャップ条件を導出する。
• プログラム空間と事前確率との関係を、プレフィックスフリーなプログラム集合の均一分布を活用して確立する。

実験結果

リサーチクエスチョン

• RQ1 ソロモンoff事前分布と普遍的混合は、効用的半測度のクラス内で正式に同等か？
• RQ2 すべての効用的半測度としての普遍的に優越する半測度は、普遍的混合でもあるか？
• RQ3 普遍的混合とより広いクラスである普遍的に優越する効用的半測度との間を区別する構造的または定量的条件は何か？
• RQ4 普遍的優越性の性質だけが、普遍的インダクションにおける収束を保証するのか、それとも普遍的混合が持つ追加の性質が利点をもたらすのか？
• RQ5 普遍的混合と普遍的に優越する半測度の間の差異を明確に特徴づけることは可能か？

主な発見

• ソロモンoff事前分布のクラスと普遍的混合のクラスは正確に同等である：$ \mathcal{U}_M = \mathcal{U}_\xi $。
• すべての普遍的混合は、ある $ c > 0 $ に対して、$ M(x) - M(x0) - M(x1) \geq c \cdot 2^{-K(\ell(x))} $ の下界を満たす。この下界は $ x $ に依存しない。
• このギャップ条件を満たさない普遍的に優越する効用的半測度が存在し、それらが普遍的混合でないことを証明する。
• 反例 $ \delta' $ が構成され、$ \delta'(\epsilon) = \delta'(0) + \delta'(1) $ を満たすことが示され、普遍的混合が要求するギャップ不等式を破る。
• 普遍的に優越する効用的半測度のクラスは、普遍的混合のクラスを厳密に含む：$ \mathcal{U}_\xi \subset \mathcal{U}_\delta $。
• 差異の原因は、普遍的混合が半測度の挙動において最小の情報理論的ギャップを要件としているのに対し、一部の普遍的に優越する半測度ではそのギャップが欠落していることに起因する。