[论文解读] Two new Markov order estimators

Yuval Peres, Paul C. Shields|ArXiv.org|Jun 4, 2005

Algorithms and Data Compression参考文献 18被引用 18

一句话总结

本文提出两种基于经验熵和条件概率波动的新一致估计器，用于估计有限字母表随机过程的马尔可夫阶数。熵估计器利用重合时间检测经验熵何时趋于稳定，而最大波动方法则通过检测条件概率差异的定性下降来识别阶数；随着样本量增加，两种方法均被证明是几乎必然一致的。

ABSTRACT

We present two new methods for estimating the order (memory depth) of a finite alphabet Markov chain from observation of a sample path. One method is based on entropy estimation via recurrence times of patterns, and the other relies on a comparison of empirical conditional probabilities. The key to both methods is a qualitative change that occurs when a parameter (a candidate for the order) passes the true order. We also present extensions to order estimation for Markov random fields.

研究动机与目标

• 从单一样本路径中开发马尔可夫过程记忆深度（马尔可夫阶数）的一致估计器。
• 解决在缺乏真实阶数先验知识、尤其在最大可能阶数无上界时的阶数估计挑战。
• 提出利用经验熵和条件概率渐近收敛性质检测真实阶数处行为的定性变化的方法。
• 将所提估计器扩展至马尔可夫随机场，从而超越独立同分布或马尔可夫链模型的应用范围。

提出的方法

• 熵估计器方法将经验k步条件熵 $\widehat{h}_k(n)$ 与基于重合的熵估计器 $[\ell(n)]^{-1} \log n + 2(\log n)^{-1/4}$ 进行比较，其中 $\ell(n)$ 表示最长重复初始块的长度。
• 估计量 $M_n^*$ 定义为最小的 $k$，使得 $\widehat{h}_k(n)$ 低于阈值，利用了 $\widehat{h}_k(n)$ 在真实阶数 $M$ 处趋于稳定这一事实。
• 最大波动方法使用一个测试函数 $\phi_m(x_{1}^{n})$，用于测量在长度为 $m$ 的滑动窗口内经验条件概率的最大偏差，并按块频率进行缩放。
• 估计量 $M_n^\#$ 定义为最小的 $m$，使得 $\phi_m(x_{1}^{n}) < n^{3/4}$，其中 $f(n) = \log \log n$ 控制所测试的 $m$ 值范围。
• 两种方法均依赖于在真实阶数处出现的行为定性变化：当 $k$ 达到 $M$ 时，熵趋于稳定，波动显著下降。
• 理论一致性通过遍历定理、大偏差原理以及经验熵收敛的迭代对数界限建立。

实验结果

研究问题

• RQ1 能否在不假设真实阶数有上界的前提下，构造出一致的马尔可夫阶数估计器？
• RQ2 如何利用经验熵和条件概率波动来检测马尔可夫过程的真实记忆深度？
• RQ3 当候选阶数 $k$ 小于、等于或大于真实阶数 $M$ 时，经验熵和条件概率差别的行为如何？
• RQ4 所提估计器能否扩展至马尔可夫随机场？在该设定下理论保证为何？
• RQ5 与 BIC 和 MDL 等既定方法相比，所提估计器在一致性和收敛行为方面表现如何？

主要发现

• 熵估计器 $M_n^*$ 几乎必然一致：对任意阶数为 $M$ 的马尔可夫过程，有 $\lim_{n \to \infty} M_n^*(x_1^n) = M$。
• 最大波动估计器 $M_n^\#$ 同样几乎必然一致，关键洞见在于：当 $m < M$ 时，$\phi_m(x_{1}^{n})$ 随 $n$ 线性增长，但当 $m = M$ 时，其保持亚多项式增长。
• 当 $k < M$ 时，$\widehat{h}_k(n)$ 几乎必然收敛至 $H_k > H$（极限熵），而 $\widehat{h}_M(n)$ 收敛至 $H$，这为阈值化方法提供了依据。
• 使用 $\phi_m(x_{1}^{n})$ 的方法避免了差分估计器中常见的“平坦区域”问题，即在 $k < M-1$ 时 $H_k = H_{k+1}$ 导致过早停止。
• 两种估计器的一致性依赖于经验熵的收敛速率和迭代对数定律，显式边界涉及 $\sqrt{\log \log n / n}$。
• 估计器对模型误设具有鲁棒性，且无需事先知道字母表大小或真实阶数，因此适用于非参数设定。