[论文解读] On Finding Predictors for Arbitrary Families of Processes

Daniil Ryabko|arXiv (Cornell University)|Dec 24, 2009

Computability, Logic, AI Algorithms参考文献 16被引用 3

一句话总结

本文证明，对于任意一族随机过程 𝒞，若存在一个在总变差意义下收敛于真实测度 μ 的通用预测器，则也存在一个具有离散先验的贝叶斯预测器，且其性能相同。核心贡献在于对这类预测器存在的条件进行了刻画，表明其存在性可归结为 𝒞 的拓扑性质与局部行为条件；当信道容量增长为次线性时，可通过信道容量分析或基于 NML 的方法构造预测器。

ABSTRACT

The problem is sequence prediction in the following setting. A sequence $x_1,...,x_n,...$ of discrete-valued observations is generated according to some unknown probabilistic law (measure) $μ$. After observing each outcome, it is required to give the conditional probabilities of the next observation. The measure $μ$ belongs to an arbitrary but known class $C$ of stochastic process measures. We are interested in predictors $ρ$ whose conditional probabilities converge (in some sense) to the "true" $μ$-conditional probabilities if any $μ\in C$ is chosen to generate the sequence. The contribution of this work is in characterizing the families $C$ for which such predictors exist, and in providing a specific and simple form in which to look for a solution. We show that if any predictor works, then there exists a Bayesian predictor, whose prior is discrete, and which works too. We also find several sufficient and necessary conditions for the existence of a predictor, in terms of topological characterizations of the family $C$, as well as in terms of local behaviour of the measures in $C$, which in some cases lead to procedures for constructing such predictors. It should be emphasized that the framework is completely general: the stochastic processes considered are not required to be i.i.d., stationary, or to belong to any parametric or countable family.

研究动机与目标

• 确定在何种条件下，对于任意一族随机过程，通用预测器存在。
• 刻画在总变差意义下可实现预测的测度族 𝒞。
• 证明若存在任意预测器，则具有离散先验的贝叶斯预测器也存在。
• 基于局部行为与信道容量，提供预测器存在的构造性充分条件。
• 将贝叶斯预测的应用范围扩展至可数族或参数族之外。

提出的方法

• 证明：若一族测度 𝒞 存在预测器，则具有离散先验的贝叶斯预测器也存在，且能在总变差意义下预测 𝒞 中的所有 μ。
• 将 𝒞 的拓扑可分性作为预测器存在的充分条件（但非必要条件）。
• 分析 𝒞 中测度在有限时域（n 长序列）截断后的局部行为，推导预测器构造的充分条件。
• 应用信息论工具，特别是信道容量 C(𝒞ⁿ)，以判断预测器的可行性：若容量呈次线性增长，则可构造。
• 当信道容量呈次线性时，通过 NML（归一化最大似然）估计构造预测器。
• 利用关于弱合并与总变差收敛的已知结果（如 Blackwell-Dubins、Kalai-Lehrer）推导收敛条件。

实验结果

研究问题

• RQ1 在何种条件下，一族随机过程 𝒞 的通用预测器存在并收敛于真实测度的总变差？
• RQ2 能否将 𝒞 的通用预测器存在性归约为具有离散先验的贝叶斯预测器的存在性？
• RQ3 𝒞 的何种拓扑或局部结构特性可保证预测器的存在？
• RQ4 信道容量 C(𝒞ⁿ) 如何与 𝒞 的预测器构造可行性相关联？
• RQ5 预测器的构造能否归约为计算 NML 估计或类似的信息论量？

主要发现

• 若任意预测器对一族 𝒞 有效，则具有离散先验的贝叶斯预测器也有效，从而在一般设定下为贝叶斯方法提供了理论依据。
• 𝒞 的拓扑可分性是预测器存在的充分条件，但非必要条件。
• 若信道容量 C(𝒞ⁿ) 随 n 呈次线性增长，则可构造预测器，例如所有 i.i.d. 伯努利过程的情形。
• 对于所有平稳过程的类，C(𝒞ⁿ) 呈线性增长，因此次线性条件不成立，此类方法无法构造出预测器。
• 可通过 𝒞 中测度的局部行为（特别是有限序列上的截断分布）推导预测器存在的充分条件。
• 该结果可推广至其他度量下的预测（如 KL 散度），尽管本文聚焦于总变差，并为未来研究其他性能度量奠定了基础。