[论文解读] Bootstrap Central Limit Theorem for Chains of Infinite Order via Markov Approximations

Pierre Collet, Denise Duarte+1 more|ArXiv.org|May 11, 2005

Bayesian Methods and Mixture Models参考文献 13被引用 3

一句话总结

本文通过利用规范的马尔可夫近似，提出了一种针对无限阶马尔可夫链的自助抽样方法。通过证明在指数记忆衰减条件下，当阶数 $k$ 与块数 $m_k$ 按受控关系发散时，经验均值的自助分布收敛于正态分布，建立了样本均值的自助中心极限定理。

ABSTRACT

We present a new approach to the bootstrap for chains of infinite order taking values on a finite alphabet. It is based on a sequential Bootstrap Central Limit Theorem for the sequence of canonical Markov approximations of the chain of infinite order. Combined with previous results on the rate of approximation this leads to a Central Limit Theorem for the bootstrapped estimator of the sample mean which is the main result of this paper.

研究动机与目标

• 为具有长程依赖性的随机过程（特别是无限阶马尔可夫链）开发一种有效的自助程序。
• 解决在存在时间依赖性时标准独立同分布自助法失效的抽样依赖数据的挑战。
• 在该类过程中建立样本均值估计量的自助估计量的中心极限定理。
• 弥合无限阶马尔可夫链与其有限阶马尔可夫近似之间在统计推断中的行为差异。
• 确保自助分布渐近匹配样本均值的真实抽样分布。

提出的方法

• 构建一系列阶数为 $k$ 的规范马尔可夫链以近似无限阶马尔可夫链。
• 将连续出现 $k$ 符号初始串之间的区间作为独立同分布的块用于抽样。
• 使用最大耦合方法对原始链及其马尔可夫近似进行联合构造。
• 利用先前研究中的 $φ$-混合性质及速率界来控制近似误差。
• 通过独立同分布的均匀抽样选择块来生成自助样本。
• 通过控制原始链与近似链之间路径不匹配的概率，建立自助方差与分布的收敛性。

实验结果

研究问题

• RQ1 能否为无限阶马尔可夫链构建一种保持渐近有效性的自助程序？
• RQ2 如何利用阶数 $k$ 递增的马尔可夫近似来实现在依赖过程中的基于块的抽样？
• RQ3 在何种条件下，无限阶马尔可夫链的样本均值的自助分布收敛于正态分布？
• RQ4 在近似无限阶过程时，自助估计量的收敛速率能达到多快？
• RQ5 原始链与其马尔可夫近似之间的耦合如何影响自助方法的有效性？

主要发现

• 在所述条件下，样本均值的自助分布依分布收敛于正态分布。
• 当阶数 $k$ 与块数 $m_k$ 满足 $c > 18 \log \delta^{-1}$ 时发散，该收敛性成立，从而确保记忆的指数衰减。
• 关键技术结果是原始链与近似链的自助估计量的二阶矩之差随着 $k \to \infty$ 而趋于零。
• 在时间 $R_{m_k}(k)$ 之前，原始链与其中马尔可夫近似之间的路径不匹配概率随 $k \to \infty$ 而趋于零。
• 自助方差比 $\sigma^{[k]*}/\sigma^*_{k}$ 依概率收敛于 1，确保了方差估计量的一致性。
• 通过将原始链的自助与其中马尔可夫近似的自助进行耦合，并证明其渐近等价性，建立了自助中心极限定理。