[论文解读] The Coordinate Sampler: A Non-Reversible Gibbs-like MCMC Sampler

Changye Wu, Christian P. Robert|arXiv (Cornell University)|Sep 10, 2018

Markov Chains and Monte Carlo Methods参考文献 24被引用 4

一句话总结

本文提出坐标采样器（Coordinate Sampler），一种基于连续时间非可逆马尔可夫链蒙特卡洛（MCMC）方法的新型算法，其基于连续时间的随机过程（PDMP），通过正交速度向量基对单个坐标进行更新。该方法在目标分布尾部衰减为指数型至高斯型时，实现了几何遍历性，并在数值实验中表现出比Zigzag采样器更高的有效样本量效率。

ABSTRACT

In this article, we derive a novel non-reversible, continuous-time Markov chain Monte Carlo (MCMC) sampler, called Coordinate Sampler, based on a piecewise deterministic Markov process (PDMP), which can be seen as a variant of the Zigzag sampler. In addition to proving a theoretical validation for this new sampling algorithm, we show that the Markov chain it induces exhibits geometrical ergodicity convergence, for distributions whose tails decay at least as fast as an exponential distribution and at most as fast as a Gaussian distribution. Several numerical examples highlight that our coordinate sampler is more efficient than the Zigzag sampler, in terms of effective sample size.

研究动机与目标

• 开发一种新型非可逆MCMC采样器，以克服现有基于PDMP的采样器（如Zigzag和Bouncy Particle Sampler）的局限性。
• 通过降低事件频率并实现对单个分量的定向更新，提升采样效率。
• 在目标分布尾部衰减条件较弱的假设下，建立坐标采样器的理论几何遍历性。
• 通过有效样本量作为度量，对坐标采样器与Zigzag采样器进行经验比较。
• 为高维贝叶斯推断提供一种理论基础坚实、高效且替代可逆MCMC方法的方案。

提出的方法

• 坐标采样器采用基于R^d空间正交基的PDMP，其速度向量取自正交基，而非Zigzag采样器所用的±1向量。
• 每次仅更新一个分量，其余分量在每次转移过程中保持固定，从而减少事件数量，提升效率。
• 事件率函数定义为 λ(x + tv, v) = {v_i ∇_i U(x + tv)}_+ + λ₀，其中仅一个坐标 i 满足 v_i ≠ 0。
• 算法在事件之间呈确定性演化，状态变化由势函数梯度导出的强度函数所决定，发生于随机时间点。
• 该方法无需满足细致平衡条件，从而支持非可逆动力学，可改善混合与收敛性能。
• 理论验证通过在目标分布尾部衰减为指数型至高斯型的温和条件下，证明其几何遍历性。

实验结果

研究问题

• RQ1 基于PDMP的MCMC采样器若采用逐坐标更新，是否能实现比Zigzag采样器更优的混合与效率？
• RQ2 使用正交速度向量替代±1向量，是否能降低事件频率并提升采样效率？
• RQ3 坐标采样器在何种条件下表现出几何遍历性？
• RQ4 在不同目标分布下，坐标采样器与Zigzag采样器在有效样本量方面表现如何？
• RQ5 在具有重尾或复杂后验分布的高维设置下，坐标采样器能否保持良好性能？

主要发现

• 坐标采样器对尾部衰减至少为指数型、至多为高斯型的目标分布，实现了几何遍历性。
• 数值结果表明，无论在香蕉形分布、多变量正态分布，还是贝叶斯逻辑回归目标下，坐标采样器均持续获得比Zigzag采样器更高的有效样本量。
• 由于采用逐坐标更新与正交速度选择，坐标采样器的事件率显著低于Zigzag采样器，尤其在高维情形下更为明显。
• 该方法减少了单位时间内的状态变化次数，从而降低了计算事件数量，提升了效率。
• 理论分析证实，该采样器在目标密度满足温和正则性条件下，具备稳定性和收敛性。
• 经验比较表明，坐标采样器在单位计算时间内的有效样本量方面优于Zigzag采样器。