[论文解读] The Boomerang Sampler

Joris Bierkens, Sebastiano Grazzi+2 more|arXiv (Cornell University)|Jun 24, 2020

Markov Chains and Monte Carlo Methods被引用 6

一句话总结

Boomerang Sampler 是一种新颖的连续时间、非可逆的马尔可夫链蒙特卡洛算法，利用由哈密顿动力学控制的分段椭圆轨迹从复杂后验分布中进行采样。该方法实现了大规模数据集的精确子采样，与现有的 PDMP 方法相比计算成本降低了 O(1/d)，在大数据极限下实现了 O(n) 的缩放优势，其在逻辑斯蒂回归和扩散桥模拟中的性能优于 Zig-Zag 和 Bouncy Particle Sampler。

ABSTRACT

This paper introduces the Boomerang Sampler as a novel class of continuous-time non-reversible Markov chain Monte Carlo algorithms. The methodology begins by representing the target density as a density, $e^{-U}$, with respect to a prescribed (usually) Gaussian measure and constructs a continuous trajectory consisting of a piecewise elliptical path. The method moves from one elliptical orbit to another according to a rate function which can be written in terms of $U$. We demonstrate that the method is easy to implement and demonstrate empirically that it can out-perform existing benchmark piecewise deterministic Markov processes such as the bouncy particle sampler and the Zig-Zag. In the Bayesian statistics context, these competitor algorithms are of substantial interest in the large data context due to the fact that they can adopt data subsampling techniques which are exact (ie induce no error in the stationary distribution). We demonstrate theoretically and empirically that we can also construct a control-variate subsampling boomerang sampler which is also exact, and which possesses remarkable scaling properties in the large data limit. We furthermore illustrate a factorised version on the simulation of diffusion bridges.

研究动机与目标

• 开发一类新型连续时间、非可逆的 MCMC 算法，以提升大规模贝叶斯推断问题中的采样效率。
• 通过用基于哈密顿的椭圆轨迹替代恒定速度动力学，推广现有的分段确定性蒙特卡洛方法。
• 在 Boomerang Sampler 中实现精确子采样，确保平稳分布无偏差，同时降低大规模数据集的计算成本。
• 设计一种因子化版本的采样器，利用模型中的条件独立性结构，提升计算可扩展性。
• 在收敛速度、渐近方差和计算成本方面，展示相对于基准 PDMP 方法（如 Zig-Zag 和 Bouncy Particle Sampler）的理论与实证优势。

提出的方法

• 该方法将目标密度建模为相对于高斯测度的 $ e^{-U} $，并沿着由 $ \frac{d\bm{x}}{dt} = \bm{v}, \frac{d\bm{v}}{dt} = -\bm{x} $ 决定的分段椭圆轨道构建连续轨迹，对应于哈密顿动力学。
• 轨道之间的切换事件由 $ U $ 的梯度导出的速率函数决定，切换强度为 $ \lambda_{i,j}(\bm{x},\bm{v}) = \langle \bm{v}, \partial_{x_{i,j}} U(\bm{x}) \rangle_+ $。
• 引入控制变量子采样技术，构建梯度的无偏估计器，实现精确子采样，确保平稳分布无偏差。
• 因子化 Boomerang Sampler 通过在模型中局部更新系数来利用条件独立性结构，通过局部化泊松速率边界降低计算成本。
• 该算法使用恒定的泊松速率边界 $ \overline{\lambda}_{i,j} = m_{i,j} \sqrt{|x^{i,j}_0|^2 + |v^{i,j}_0|^2} $，利用了沿轨迹的 $ |x^{i,j}_t|^2 + |v^{i,j}_t|^2 $ 不变量。
• 理论分析表明，切换事件的数量呈 $ \mathcal{O}(1/d) $ 缩放，相对于其他 PDMP 方法降低了计算成本。

实验结果

研究问题

• RQ1 基于哈密顿动力学的非可逆、连续时间 MCMC 算法是否能在混合性和计算效率方面优于现有的 PDMP 方法（如 Zig-Zag 和 Bouncy Particle Sampler）？
• RQ2 在使用精确子采样时，Boomerang Sampler 是否在大数据极限下仍能实现 O(n) 的缩放优势，即使数据非独立同分布？
• RQ3 因子化 Boomerang Sampler 是否能够利用模型中的条件独立性结构，在高维设置中降低计算成本？
• RQ4 Boomerang Sampler 的性能如何随维度 d 变化？其效率在 d 增大时是否保持稳定？
• RQ5 控制变量子采样技术是否能在保持平稳分布精确性的同时，实现大规模贝叶斯推断中的高效采样？

主要发现

• 在大数据极限下，Boomerang Sampler 相较于非子采样算法在计算效率上实现了 $ \mathcal{O}(n) $ 的优势，且不受后验收缩率的影响。
• Boomerang Sampler 中的切换事件数量呈 $ \mathcal{O}(1/d) $ 缩放，相对于其他 PDMP 方法（如 Zig-Zag 和 Bouncy Particle Sampler）降低了计算成本。
• 实证结果表明，子采样版 Boomerang Sampler 在大规模数据集的逻辑斯蒂回归中优于 BPS 和 Zig-Zag，具有更快的收敛速度和更低的渐近方差。
• 因子化 Boomerang Sampler 通过利用局部结构并支持局部更新，在扩散桥模拟中实现了显著的计算增益。
• 控制变量子采样技术确保了平稳分布的精确性，同时降低了梯度评估成本，使其适用于大规模贝叶斯推断。
• 对 $ U $ 的梯度的理论界，如 $ \| \nabla^2 U(\bm{x}) \| \leq \frac{1}{4} \| \sum_{i=1}^n \bm{y}^{(i)} (\bm{y}^{(i)})^\top \| $，支持了稳定且高效的泊松速率边界的构造。