[论文解读] Discrepancy bounds for uniformly ergodic Markov chain quasi-Monte Carlo

Josef Dick, Daniel Rudolf+1 more|arXiv (Cornell University)|Mar 11, 2013

Mathematical Approximation and Integration参考文献 32被引用 7

一句话总结

本文使用确定性驱动序列而非独立同分布的均匀随机变量，为均匀遍历马尔可夫链建立了差异性界。在概率构造框架下，证明了存在驱动序列，使得经验分布以 $\mathcal{O}(n^{-1/2} \log^{1/2} n)$ 的速率收敛到目标分布，接近标准蒙特卡洛速率，但尚未提供显式序列生成方法。

ABSTRACT

Markov chains can be used to generate samples whose distribution approximates a given target distribution. The quality of the samples of such Markov chains can be measured by the discrepancy between the empirical distribution of the samples and the target distribution. We prove upper bounds on this discrepancy under the assumption that the Markov chain is uniformly ergodic and the driver sequence is deterministic rather than independent $U(0,1)$ random variables. In particular, we show the existence of driver sequences for which the discrepancy of the Markov chain from the target distribution with respect to certain test sets converges with (almost) the usual Monte Carlo rate of $n^{-1/2}$.

研究动机与目标

• 分析使用确定性驱动序列而非独立同分布的均匀随机变量的马尔可夫链准蒙特卡洛（MCMC）方法的收敛速率。
• 建立均匀遍历马尔可夫链的经验分布与平稳分布之间的理论差异性界。
• 证明在合适的确定性驱动序列下，收敛速率可达到标准蒙特卡洛速率 $n^{-1/2}$ 的量级，仅相差对数因子。
• 提出一种“反向差异性”准则，用于刻画能导致马尔可夫链输出低差异性的驱动序列。
• 为未来利用概率和经验过程技术显式构造此类驱动序列奠定理论基础。

提出的方法

• 使用概率方法证明存在驱动序列 $(u_i)_{1\leq i\leq n}$，使得经验分布与目标分布之间的差异性较小。
• 应用霍夫丁不等式处理经验过程，并结合Glynn与Ormoneit的结果，以界定向大差异性的概率。
• 依赖塔拉格兰德的集中不等式和豪斯勒的覆盖数界，以控制测试集类的复杂性。
• 引入“反向差异性”概念，将马尔可夫链状态的差异性与单位立方体中驱动序列的差异性关联起来。
• 通过一类Borel集 $\mathscr{A} \subseteq \mathcal{B}(G)$ 上的广义柯尔莫哥洛夫-斯米尔诺夫检验分析差异性。
• 利用 $\mathbb{R}^d$ 中球帽的覆盖论证和体积估计，以界定向覆盖数并控制测试集类的度量熵。

实验结果

研究问题

• RQ1 当使用确定性驱动序列时，能否对均匀遍历马尔可夫链的经验分布与平稳分布之间的差异性进行有界控制？
• RQ2 在均匀遍历性假设下，此类差异性界的最优收敛速率是什么？
• RQ3 马尔可夫链准蒙特卡洛方法的收敛速率能否达到标准蒙特卡洛速率 $n^{-1/2}$？
• RQ4 是否存在一种准则，可刻画导致马尔可夫链输出低差异性的驱动序列？
• RQ5 能否从理论界推导出此类驱动序列的显式构造？

主要发现

• 对每个 $n$，存在一个确定性驱动序列 $(u_i)_{1\leq i\leq n}$，使得经验分布与目标分布之间的差异性以 $\mathcal{O}(n^{-1/2} \log^{1/2} n)$ 的速率收敛。
• 该收敛速率几乎等同于标准蒙特卡洛速率 $n^{-1/2}$，表明使用确定性驱动序列的准蒙特卡洛方法可实现相近的精度。
• 此类序列的存在性通过概率论证得到证明，具体方法包括霍夫丁不等式和经验过程的集中界。
• 马尔可夫链状态的差异性被证明与驱动序列在 $[0,1]^s$ 中的“反向差异性”密切相关。
• 通过单位球面上球帽的覆盖数论证，得出了测试集类度量熵的界，从而导出最终的差异性收敛速率。
• 该证明未提供驱动序列的显式构造，但给出了此类序列必须满足的准则（即反向差异性）。