[論文レビュー] On the Relation between Realizable and Nonrealizable Cases of the Sequence Prediction Problem

Daniil Ryabko|arXiv (Cornell University)|May 31, 2010

Machine Learning and Algorithms被引用数 6

ひとこと要約

本稿は、異なる損失関数のもとでの逐次予測の実現可能と非実現可能な場合の間の形式的関係を確立する。予測の質が全変動距離で測られるとき、二つの問題は同値であるが、期待平均KL発散度ではそれらは乖離する。主な貢献は、両問題の解が、与えられた測度クラスの可算部分集合に対するベイズ混合として構成可能であることを示したことである。特に、有限記憶過程や定常過程といった特定のクラスでは、解の存在条件が完全に同定されている。

ABSTRACT

A sequence $x_1,\dots,x_n,\dots$ of discrete-valued observations is generated according to some unknown probabilistic law (measure) $μ$. After observing each outcome, one is required to give conditional probabilities of the next observation. The realizable case is when the measure $μ$ belongs to an arbitrary but known class $\mathcal C$ of process measures. The non-realizable case is when $μ$ is completely arbitrary, but the prediction performance is measured with respect to a given set $\mathcal C$ of process measures. We are interested in the relations between these problems and between their solutions, as well as in characterizing the cases when a solution exists and finding these solutions. We show that if the quality of prediction is measured using the total variation distance, then these problems coincide, while if it is measured using the expected average KL divergence, then they are different. For some of the formalizations we also show that when a solution exists, it can be obtained as a Bayes mixture over a countable subset of $\mathcal C$. We also obtain several characterization of those sets $\mathcal C$ for which solutions to the considered problems exist. As an illustration to the general results obtained, we show that a solution to the non-realizable case of the sequence prediction problem exists for the set of all finite-memory processes, but does not exist for the set of all stationary processes. It should be emphasized that the framework is completely general: the processes measures considered are not required to be i.i.d., mixing, stationary, or to belong to any parametric family.

研究の動機と目的

• 実現可能と非実現可能な逐次予測の間の形式的関係を明確化すること。
• 真の測度μがクラスCに必ずしも属しない場合に、各ケースにおける予測子の存在条件を特定すること。
• 実現可能および非実現可能設定の両方で解が存在するような集合Cを同定すること。
• 解が存在する場合、それがCの可算部分集合に対するベイズ混合として構成可能であることを示すこと。
• 具体的な例（例えば有限記憶過程や定常過程）を用いて理論を説明すること。

提案手法

• 本稿は、全変動距離と期待平均KL発散度を損失関数として用い、実現可能と非実現可能な予測問題を比較する。
• 正則化子γを用いて適切な正規化と収束を保証するように、Cに属する測度の重み付き混合として予測子νを構成する。
• 尤度比に基づく閾値集合Tⁿⱼₙᵤを定義し、エントロピーの上限を用いてμとνの間の発散を制御する。
• 重要な技術的ステップとして、発散dₙ(μ,ν) = o(n)を示すために、尤度が高いかつそれ以外の集合の二つの部分に分解し、両方ともo(n)であることを示す。
• 正則化子γをCの可算個の測度の凸結合に置き換えることで、予測子が計算可能かつ適切に定義されることを保証する。
• 証明は、重みwₙの列を構成し、−log εₙᵤ = o(n)であるという事実を用いて、発散項の収束を保証する。

実験結果

リサーチクエスチョン

• RQ1 実現可能と非実現可能な逐次予測問題が、どのような条件下で一致するか？
• RQ2 損失関数の選択（全変動距離対期待平均KL発散度）が、二つの問題の同値性にどのように影響するか？
• RQ3 非実現可能な状況において予測子が存在するようなクラスCはどれか？
• RQ4 逐次予測問題の解を、Cの可算部分集合に対するベイズ混合として構成可能か？
• RQ5 実現可能および非実現可能設定の両方で予測子が存在するための必要十分条件Cは何か？

主な発見

• 損失関数が全変動距離であるとき、実現可能と非実現可能な逐次予測の二つは同値である。
• 損失関数が期待平均KL発散度であるとき、二つの問題は本質的に異なる。
• 解が存在する限り、両問題の解はCの可算部分集合に対するベイズ混合として構成可能である。
• Cがすべての有限記憶過程の集合であるとき、非実現可能な状況でも解が存在する。
• Cがすべての定常過程の集合であるとき、非実現可能な状況では解が存在しない。
• 構成された予測子νのもとで、発散dₙ(μ,ν)は平均的に0に収束する（すなわち、dₙ(μ,ν)/n → 0）ことから、漸近的一貫性が確認される。