[论文解读] Concentration Inequalities and UQ Bounds for Hypocoercive MCMC Samplers

Jeremiah Birrell, Luc Rey-Bellet|arXiv (Cornell University)|Jul 27, 2019

Markov Chains and Monte Carlo Methods参考文献 43被引用 5

一句话总结

本文为非可逆MCMC采样器的遍历平均建立了类似Bernstein的集中不等式，使得在使用近似动力学时能够构建后验期望的非渐近置信区间并量化偏差的不确定性。核心贡献是基于Hypocoercive半群理论和Feynman-Kac表示的严格性能保证框架。

ABSTRACT

In this work we provide performance guarantees for hypocoercive non-reversible MCMC samplers $X_t$ with invariant measure $μ_*$; our results apply in particular to the Langevin equation, Hamiltonian Monte-Carlo, and the bouncy particle and zig-zag samplers. Specifically, we establish a concentration inequality of Bernstein type for ergodic averages $\frac{1}{T} \int_0^T f(X_t)\, dt$. As a consequence we provide two types of performance guarantees: (a) explicit non-asymptotic confidence intervals for $\int f dμ_*$ when using a finite time ergodic average with given initial condition $μ$ and (b) uncertainty quantification (UQ) bounds, expressed in terms of relative entropy rate, on the bias of $\int f dμ_*$ when using an alternative or approximate processes $\widetilde{X}_t$. (Results in (b) generalize results (arXiv:1812.05174) from the authors for coercive dynamics.) The concentration inequality is proved by combining the approach via Feynman-Kac semigroups first noted by Wu with the hypocoercive estimates of Dolbeault, Mouhot and Schmeiser (arXiv:1005.1495) developed for the Langevin equation and generalized to partially deterministic Markov processes by Andrieu et al. (arXiv:1808.08592).

研究动机与目标

• 为Hypocoercive非可逆MCMC采样器提供非渐近性能保证，包括遍历平均的置信区间。
• 量化使用近似或替代随机过程代替真实动力学所引入的偏差。
• 将不确定性量化结果从强收敛动力学推广到更一般的Hypocoercive设置。
• 通过统一的理论框架，统一分析Langevin、Zig-Zag、Bouncy Particle和Hybrid HMC等多样化采样器的性能。
• 基于Dolbeault、Mouhot和Schmeiser的Hypocoercive估计以及Andrieu等人（2018）的推广，利用Feynman-Kac半群建立遍历平均的集中不等式。

提出的方法

• 利用Wu（2000）提出的Feynman-Kac半群方法，推导出遍历平均 $ \frac{1}{T}\int_0^T f(X_t)\,dt $ 的Bernstein型集中不等式。
• 应用Dolbeault、Mouhot和Schmeiser（2009, 2015）的Hypocoercive估计，以及Andrieu等人（2018）对部分确定性过程的推广。
• 使用修正的内积 $ \langle f,g\rangle_\epsilon = \langle f,g\rangle + \epsilon\langle f, Gg\rangle $ 控制谱间隙，确保在 $ L^2(\mu^*) $ 中指数收敛。
• 通过生成元 $ A = S + T $ 的算子范数和谱性质（分解为对称与反对称部分），建立方差与偏差项的界。
• 通过验证定理3的三个假设（谱间隙控制、$ G $ 的有界性、投影结构），将该框架应用于具体采样器。
• 基于 $ \|\widehat{f}\|_\infty $、$ \Lambda(\epsilon) $ 和 $ \text{Var}_{\mu^*}[f] $ 显式推导出 $ v_\pm $ 和 $ b_\pm $ 的界，从而得出集中不等式。

实验结果

研究问题

• RQ1 能否为给定初始条件的Hypocoercive MCMC采样器的遍历平均构造非渐近置信区间？
• RQ2 如何通过相对熵率量化基于近似过程 $ \widetilde{X}_t $ 的估计器偏差？
• RQ3 该集中不等式框架能否从强收敛动力学推广到Hypocoercive动力学，特别是针对非可逆采样器？
• RQ4 在Zig-Zag、Bouncy Particle和Hybrid HMC采样器的背景下，遍历平均的显式性能界是什么？
• RQ5 生成元的谱性质和修正内积如何影响遍历平均的集中行为？

主要发现

• 为Hypocoercive MCMC采样器的遍历平均建立了Bernstein型集中不等式，适用于有限时间 $ T $，且对初始分布具有显式依赖关系。
• 推导出 $ \int f\,d\mu^* $ 的非渐近置信区间，显式依赖于初始测度 $ \mu $、函数 $ f $ 和时间 $ T $。
• 当使用替代过程 $ \widetilde{X}_t $ 时，提供了 $ \int f\,d\mu^* $ 偏差的不确定性量化边界，表达为 $ X_t $ 与 $ \widetilde{X}_t $ 的概率律之间的相对熵率。
• 方差项的界满足 $ v_\pm \leq \frac{(1+\epsilon)(1 - \epsilon^2/4)}{1-\epsilon} \cdot \frac{2\text{Var}_{\mu^*}[f]}{\Lambda(\epsilon)} $，其中 $ \Lambda(\epsilon) $ 控制Hypocoercive收敛速率。
• 偏差项的界为 $ b_\pm \leq \frac{(1+\epsilon)^2}{1-\epsilon} \cdot \frac{\|\widehat{f}\|_\infty}{\Lambda(\epsilon)} $，显示出对函数变异性与谱间隙的显式依赖。
• 结果将Birrell和Rey-Bellet（2018）的工作从强收敛动力学推广至Hypocoercive动力学，覆盖了包括Zig-Zag和Bouncy Particle在内的广泛非可逆采样器类别。