[论文解读] Generalized Bouncy Particle Sampler

Changye Wu, Christian P. Robert|arXiv (Cornell University)|Jun 15, 2017

Markov Chains and Monte Carlo Methods参考文献 18被引用 15

一句话总结

本文提出了广义弹跳粒子采样器（GBPS），这是一种新颖的无拒绝、不可逆的马尔可夫链蒙特卡洛算法，通过用随机转移动态替代其确定性速度反射，将弹跳粒子采样器（BPS）推广至更一般的形式。GBPS通过直接在速度更新中引入随机性，消除了对刷新参数调优的需求，解决了标准BPS固有的可约性问题，同时保持了从目标分布中精确采样的特性。

ABSTRACT

As a special example of piecewise deterministic Markov process, bouncy particle sampler is a rejection-free, irreversible Markov chain Monte Carlo algorithm and can draw samples from target distribution efficiently. We generalize bouncy particle sampler in terms of its transition dynamics. In BPS, the transition dynamic at event time is deterministic, but in GBPS, it is random. With the help of this randomness, GBPS can overcome the reducibility problem in BPS without refreshement.

研究动机与目标

• 解决由于确定性速度反射导致的弹跳粒子采样器（BPS）中的可约性问题，该问题需要人为引入刷新过程。
• 开发一种广义的逐段确定性马尔可夫过程（PDMP）框架，通过在速度转移中引入随机性，将BPS和Zig-Zag采样器推广至更一般的形式。
• 通过将随机性直接嵌入到转移动态中，消除BPS中对刷新率调优的需求，确保无需额外参数即可实现不可约性和遍历性。
• 提供一种可扩展的精确MCMC方法用于贝叶斯推断，其在大规模数据上保持高效性，优于近似可扩展的替代方法。

提出的方法

• GBPS通过用随机转移核 $ Q(\cdot|\mathbf{z}_{\tau-}) $ 替代BPS中的确定性速度反射 $ P_{\mathbf{x}}\mathbf{v} $，实现了对BPS的推广，其中新速度从球面 $ S^{d-1} $ 上的概率分布中抽取。
• 该算法使用移动坐标系对速度进行分解，实现了自适应且非固定的反射动态，与Zig-Zag过程中使用的固定坐标系形成对比。
• 事件发生率定义为 $ \lambda(\mathbf{z}_t) = \max\{0, -\mathbf{v}_t \cdot \nabla \log \pi(\mathbf{x}_t)\} $，继承自BPS，确保事件的发生与目标密度的梯度驱动变化保持一致。
• 转移动态的设计使得速度更新为随机且条件分布化，以确保不变测度为 $ \pi(\mathbf{x}) \, d\mathbf{x} \otimes d\mathbf{v} $，从而保持采样器的目标分布不变。
• 该方法基于逐段确定性马尔可夫过程（PDMP）理论，其动态在确定性演化与由速率函数控制的事件时间处的随机跳跃之间交替。
• 通过测度论论证证明了遍历性，表明任意两个不变测度必须等价，其依据在于状态空间中开集之间的正转移概率。

实验结果

研究问题

• RQ1 能否构建一种无拒绝的MCMC采样器，而无需依赖确定性速度反射，从而避免可约性问题？
• RQ2 能否通过将随机性直接嵌入到速度转移机制中，消除BPS中对刷新率调优的需求？
• RQ3 具有随机速度更新的广义PDMP采样器是否能在保持对目标分布精确采样的同时，提升混合效率与可扩展性？
• RQ4 在速度分解中使用移动坐标系是否能相比Zig-Zag等固定坐标方法，更有效地提升状态空间的探索能力？

主要发现

• GBPS在无需刷新过程的情况下解决了BPS的可约性问题，消除了对刷新率参数调优的需求。
• GBPS中的随机转移动态确保了不变分布恰好为 $ \pi(\mathbf{x}) \, d\mathbf{x} \otimes d\mathbf{v} $，从而保持了采样器的精确性。
• GBPS保持了BPS的无拒绝特性和可扩展性，使得在大规模数据集上高效采样成为可能，且无需使用近似方法。
• 理论分析证明了GBPS是遍历的，因为状态空间中开集之间的正转移概率确保了不可约性以及不变测度的唯一性。
• 该方法在统一的PDMP框架下推广了BPS和Zig-Zag过程，通过使用移动坐标系实现速度分解。
• 数值实验表明，GBPS在高维和多模态目标分布下，其混合性能与BPS和Zig-Zag相当或更优。