[論文レビュー] Convergence and Error Bounds for Universal Prediction of Nonbinary Sequences

Marcus Hütter|ArXiv.org|Jun 15, 2001

Computability, Logic, AI Algorithms参考文献 13被引用数 8

ひとこと要約

この論文は、ソロモンoffの普遍予測フレームワークを任意の有限非2進アルファベットに一般化し、普遍予測子 ξ が真の分布 μ に対して条件付き平均二乗誤差および μ-確率 1 で収束することを証明する。普遍スキームの過剰予測誤差に対する O(√E_μ) の上限を確立し、非二進系列への普遍誘導を、厳密な誤差と収束保証のもとで拡張する。

ABSTRACT

Solomonoff's uncomputable universal prediction scheme $ξ$ allows to predict the next symbol $x_k$ of a sequence $x_1...x_{k-1}$ for any Turing computable, but otherwise unknown, probabilistic environment $μ$. This scheme will be generalized to arbitrary environmental classes, which, among others, allows the construction of computable universal prediction schemes $ξ$. Convergence of $ξ$ to $μ$ in a conditional mean squared sense and with $μ$ probability 1 is proven. It is shown that the average number of prediction errors made by the universal $ξ$ scheme rapidly converges to those made by the best possible informed $μ$ scheme. The schemes, theorems and proofs are given for general finite alphabet, which results in additional complications as compared to the binary case. Several extensions of the presented theory and results are outlined. They include general loss functions and bounds, games of chance, infinite alphabet, partial and delayed prediction, classification, and more active systems.

研究の動機と目的

• ソロモンoffの普遍予測スキーム ξ を2進から任意の有限非2進アルファベットへ拡張し、非2進設定における増大する複雑さに対処すること。
• 普遍予測子 ξ が真の環境分布 μ に対して条件付き平均二乗誤差および μ-確率 1 で収束することを証明すること。
• 最適な情報付きスキームに対する普遍スキームが行う予測誤差の数に対する有限で非漸近的な誤差境界を導出すること。
• 理論をより広範な応用、すなわち賭けゲーム、部分的・遅延予測、分類、アクティブシステムへの一般化すること。
• 真の分布 μ が未知であっても、最良の情報付き予測子とほぼ同等に動作する計算可能な普遍予測フレームワークを提供すること。

提案手法

• 有限アルファベット A 上の確率分布の集合 M に属する候補分布 μ_i ∈ M の重み付き和として普遍事前分布 ξ を定義する。M は有限または可算集合である。
• 事象の順序を保持するベイズフレームワークを用い、P(x_k | x_{<k}) の一貫した計算を P(x_{1:k}) / P(x_{<k}) により可能にする条件付き確率表記を採用する。
• 測度論的議論と普遍事前分布の性質を用いて、ξ が μ に対して条件付き平均二乗誤差および μ-確率 1 で収束することを証明する。
• 過剰予測誤差の上界を導出する：E_ξ - E_μ = O(√E_μ)、ここで E_μ は最適な情報付きスキームが行う誤差数である。
• 損失関数を一般化し、賭けゲーム、無限アルファベット（極限または稠密性による）、部分的・遅延予測に対して、損失関数または条件付き確率の修正によりフレームワークを拡張する。
• 行動が結果に影響を与えるアクティブシステムへモデルを拡張し、損失関数を行動と結果の両方に依存させる。期待利益の収束が最適値に達することを示す。

実験結果

リサーチクエスチョン

• RQ1 ソロモンoffの普遍予測スキームを任意の有限非2進アルファベットへ一般化する方法は何か？また、2進の場合と比較してどのような新たな課題が生じるか？
• RQ2 普遍予測子 ξ が条件付き平均二乗誤差およびほとんど確実に真の分布 μ に収束する条件は何か？
• RQ3 最適な情報付きスキームに対する普遍スキームが行う予測誤差の数に対する有限時間の境界は何か？
• RQ4 普遍予測フレームワークを、賭けゲーム、部分的予測、遅延フィードバック、分類、行動依存の結果を持つアクティブシステムへ拡張できるか？
• RQ5 アルファベットサイズが増加する際、誤差と収束境界はどのようにスケーリングされるか？また、可算無限または連続的アルファベットへは拡張可能か？

主な発見

• 普遍予測子 ξ は、任意の有限非2進アルファベットに対しても、条件付き平均二乗誤差および μ-確率 1 で真の分布 μ に収束する。
• 普遍スキームが行う予測誤差の数 Λ_ξ は、最適な情報付きスキームが行う誤差数 Λ_μ を超えるが、その超過分は O(√E_μ) 以内であり、ここで E_μ は最適スキームが行う誤差数である。
• 収束性と誤差境界は一般の有限アルファベットに対して成立し、2進から非2進系列に移行する際の追加的複雑性を解消する。
• フレームワークは賭けゲームへ一般化可能であり、普遍スキーム Λ_ξ の平均利益は、最適スキーム Λ_μ に O(n^{-1/2}) のレートで収束する。
• 誤差境界は μ と ξ の相対エントロピーに比例し、勝利領域に到達するまでに必要なベット数は (2p_Δ / p̄_nΛ_μ)^2 · d_μ で有界である。
• 可算無限または連続的アルファベットへの拡張は、極限または稠密性の議論により可能であり、部分的・遅延的・分類ベースの予測は損失関数または条件付き確率の修正によりモデル化可能である。