[论文解读] Nonreversible Langevin Samplers: Splitting Schemes, Analysis and Implementation

A. Duncan, Grigorios A. Pavliotis+1 more|arXiv (Cornell University)|Jan 16, 2017

Markov Chains and Monte Carlo Methods参考文献 45被引用 15

一句话总结

本文提出使用李-特罗特分解格式的不可逆朗之万抽样方法，将不可逆扩散过程分解为可逆与不可逆分量，显著提升混合效率并降低渐近方差。该方法确保几何遍历性，控制偏差，并在逻辑斯蒂回归和空间模型等低维与高维问题中，优于标准MCMC方法的收敛性与效率。

ABSTRACT

For a given target density, there exist an infinite number of diffusion processes which are ergodic with respect to this density. As observed in a number of papers, samplers based on nonreversible diffusion processes can significantly outperform their reversible counterparts both in terms of asymptotic variance and rate of convergence to equilibrium. In this paper, we take advantage of this in order to construct efficient sampling algorithms based on the Lie-Trotter decomposition of a nonreversible diffusion process into reversible and nonreversible components. We show that samplers based on this scheme can significantly outperform standard MCMC methods, at the cost of introducing some controlled bias. In particular, we prove that numerical integrators constructed according to this decomposition are geometrically ergodic and characterise fully their asymptotic bias and variance, showing that the sampler inherits the good mixing properties of the underlying nonreversible diffusion. This is illustrated further with a number of numerical examples ranging from highly correlated low dimensional distributions, to logistic regression problems in high dimensions as well as inference for spatial models with many latent variables.

研究动机与目标

• 通过利用不可逆扩散过程开发高效的MCMC抽样方法，使其在混合与收敛性方面优于可逆方法。
• 基于不可逆SDE的李-特罗特分解构建数值积分器，保留底层扩散过程的有利遍历性质。
• 表征所得抽样器的渐近偏差与方差，确保准确度与效率之间的可控权衡。
• 在具有挑战性的问题（包括高维逻辑斯蒂回归与含潜变量的空间模型）上，展示所提方法的实际优越性。

提出的方法

• 该方法利用李-特罗特分解格式，将不可逆伊tô SDE分解为可逆与不可逆分量，实现稳定且高效的数值积分。
• 分析SDE的无穷小生成元，以确保几何遍历性，并推导估计器渐近方差与偏差的上界。
• 应用分解格式构建继承不可逆扩散过程快速混合特性的数值抽样器。
• 利用平尼切尔不等式与吉尔萨诺夫定理，界定数值与精确转移核之间的总变差距离，确保收敛性。
• 分析包括转移核近似误差的界，表明在小$\Delta t$下，总变差收敛速率为$\mathcal{O}(\Delta t^{1/2})$。
• 该方法在一系列问题中实现并测试，包括高度相关的后验分布、逻辑斯蒂回归以及含潜变量的空间模型。

实验结果

研究问题

• RQ1 通过李-特罗特分解构建的不可逆朗之万抽样器，是否能实现比标准可逆MCMC方法更快的收敛速度与更低的渐近方差？
• RQ2 该分解格式如何影响抽样器的几何遍历性与长期行为？
• RQ3 不可逆分量对估计器渐近方差与偏差的定量影响是什么？
• RQ4 所提方法是否能在高维与高度相关的后验分布中保持效率与稳定性？
• RQ5 理论推导的偏差与方差界与真实统计模型中的实际性能相比如何？

主要发现

• 基于李-特罗特分解的所提不可逆朗之万抽样器具有几何遍历性，确保几乎必然收敛至目标分布。
• 与可逆抽样器相比，估计器的渐近方差更低，从而在蒙特卡罗估计中实现更快收敛。
• 该方法在数值与精确转移核之间的总变差距离中引入了$\mathcal{O}(\Delta t^{1/2})$阶的可控偏差。
• 数值实验表明，在高维逻辑斯蒂回归与含潜变量的空间模型中，混合与收敛速度均有显著提升。
• 理论分析证实，抽样器继承了底层不可逆扩散过程的良好混合特性，通过最优选择不可逆漂移$\gamma(x)$可实现方差降低。
• 该方法在路径测度上实现$\mathcal{O}(\Delta t)$阶偏差，在转移核上实现$\mathcal{O}(\Delta t^{1/2})$阶偏差，确保在小步长下稳定且精确的抽样。