[論文レビュー] On the Foundations of Universal Sequence Prediction

Marcus Hütter|ArXiv.org|May 3, 2006

Computability, Logic, AI Algorithms参考文献 12被引用数 5

ひとこと要約

この論文は、アルゴリズム的複雑性を用いて他のすべての事前分布を支配する普遍的事前分布を定義することで、ソロモンoffの普遍的逐次予測をベイズ的逐次予測の基礎的解決策として確立する。この普遍的事前分布は、古典的ベイズ手法が抱える主要な哲学的・技術的問題——普遍的仮説に対する事後確率がゼロになる問題、再パラメータ化への感受性、古くて更新されない証拠の問題——を回避する一方で、計算不能な環境においても強い収束性と性能を保証する。

ABSTRACT

Solomonoff completed the Bayesian framework by providing a rigorous, unique, formal, and universal choice for the model class and the prior. We discuss in breadth how and in which sense universal (non-i.i.d.) sequence prediction solves various (philosophical) problems of traditional Bayesian sequence prediction. We show that Solomonoff's model possesses many desirable properties: Fast convergence and strong bounds, and in contrast to most classical continuous prior densities has no zero p(oste)rior problem, i.e. can confirm universal hypotheses, is reparametrization and regrouping invariant, and avoids the old-evidence and updating problem. It even performs well (actually better) in non-computable environments.

研究の動機と目的

• モデルクラスと事前分布の選択に関するベイズ的逐次予測の基礎的問題に取り組む。
• 古くて更新されない証拠のパラドックス、普遍的仮説の確認、再パラメータ化不変性といった哲学的問題を解決する。
• ソロモンoffの普遍的事前分布が、計算可能かつ計算不能な環境の両方で、古典的連続事前分布を上回ることを示す。
• 普遍的混合分布 M が強い収束バインディングを達成し、ゼロ事後確率問題を回避することを示す。
• 普遍的予測がミニマックス意味で一貫性と最適性を両立させる形式的枠組みを提供する。

提案手法

• すべての計算可能環境 ν に対して、普遍的事前分布 wν^U = 2^(-K(ν)) をコルモゴロフ複雑性 K(ν) を用いて定義する。
• 普遍的混合分布 M(x) を、すべての ν について wν^U × ν(x) の和として定義し、これはランダムな入力をもつ普遍的チューリングマシンが x を出力する確率を表す。
• すべての計算可能測度を含むモデルクラス M_U を用いて、普遍性を保証する。
• 予測誤差をバウンドするために相対エントロピー D_n(μ||M) を用い、計算可能 μ に対して D_n(μ||M) ≤ K(μ)ln2 であることを示す。
• 不等式 M(x) ≥ 2^(-K(ξ))ξ(x) を用いて、M が任意の計算可能混合分布 ξ を支配することを示す。
• 事前知識 y を普遍的事前分布に組み込むために、条件付き複雑性 K(ν|y) を導入し、U 依存性を低減する。

実験結果

リサーチクエスチョン

• RQ1 古典的ベイズ的モデル選択における曖昧さを解消するため、普遍的事前分布を形式的かつ一意に定義する方法は何か？
• RQ2 ソロモンoffの普遍的事前分布は、どのようにして普遍的仮説に対するゼロ事後確率問題を回避するか？
• RQ3 古典的連続事前分布と比較して、普遍的事前分布は再パラメータ化および再グループ化不変性をどのように確保するか？
• RQ4 古典的手法が失敗する計算不能な環境において、普遍的逐次予測は強力な性能を維持できるか？
• RQ5 アルゴリズム的複雑性は、ミニマックス最適予測バインディングを達成するために果たす役割は何か？

主な発見

• ソロモンoffの普遍的事前分布 wν^U = 2^(-K(ν)) により、すべての普遍的仮説がゼロでない事後確率を持つようになり、確認問題が解決される。
• 普遍的混合分布 M(x) はすべての計算可能混合分布 ξ(x) を支配し、M(x) ≥ 2^(-K(ξ))ξ(x) を満たすため、優れたまたは同等の性能を達成する。
• 任意の計算可能な環境 μ に対して、相対エントロピー D_n(μ||M) は K(μ)ln2 でバウンドされ、n に依存しない有限定数である。これは古典的手法とは異なり、対数的に増加しないことを示す。
• 普遍的事前分布は再パラメータ化およびデータの再グループ化に対して不変であり、連続事前分布の主要な弱みを回避する。
• M は初期段階からすべての計算可能な仮説にゼロでない確率を割り当てることで、古くて更新されない証拠および更新問題を回避する。
• 計算不能な環境でさえも、支配関係と有限な K(ξ) 依存性のおかげで、M は任意の計算可能混合分布 ξ と同等以上に性能を発揮する。