[论文解读] Constructing sampling schemes via coupling: Markov semigroups and optimal transport

N. Nuesken, Grigorios A. Pavliotis|arXiv (Cornell University)|Jun 28, 2018

Markov Chains and Monte Carlo Methods参考文献 46被引用 3

一句话总结

本文提出了一套统一框架，通过耦合技术构建高效的马尔可夫链蒙特卡洛（MCMC）采样器，将其与马尔可夫半群及最优传输理论相联系。研究发现，通过最优耦合最小化渐近方差的问题可转化为多变量最优传输问题，从而导出新型对称变量方法，并提出一种改进的庞加莱不等式用于收敛性分析。

ABSTRACT

In this paper we develop a general framework for constructing and analysing coupled Markov chain Monte Carlo samplers, allowing for both (possibly degenerate) diffusion and piecewise deterministic Markov processes. For many performance criteria of interest, including the asymptotic variance, the task of finding efficient couplings can be phrased in terms of problems related to optimal transport theory. We investigate general structural properties, proving a singularity theorem that has both geometric and probabilistic interpretations. Moreover, we show that those problems can often be solved approximately and support our findings with numerical experiments. For the particular objective of estimating the variance of a Bayesian posterior, our analysis suggests using novel techniques in the spirit of antithetic variates. Addressing the convergence to equilibrium of coupled processes we furthermore derive a modified Poincaré inequality.

研究动机与目标

• 开发一种通用框架，用于构建和分析扩散过程与逐段确定性过程的耦合马尔可夫链蒙特卡洛采样器。
• 证明优化性能指标（如渐近方差）的问题可转化为最优传输理论中的问题。
• 推导一种改进的庞加莱不等式，用于分析耦合过程趋于平衡态的收敛性。
• 提出受对称变量启发的新型采样技术，用于降低贝叶斯后验估计中的方差。
• 建立耦合结构的若干性质，包括具有几何与概率解释的奇点定理。

提出的方法

• 在乘积空间上构造具有固定边缘分布的耦合马尔可夫过程，利用无穷小生成元刻画耦合动力学。
• 将方差最小化问题重新表述为多变量最优传输问题，从而实现解析与数值求解。
• 应用马尔可夫半群理论分析耦合过程的遍历性与收敛至不变测度的性质。
• 推导一种改进的庞加莱不等式，以量化耦合过程趋于平衡态的收敛速率。
• 利用耦合生成元的泊松方程，将渐近方差表示为与传输相关方程的解的形式。
• 采用洛必达法则与可积性条件分析解的边界行为，确保耦合框架的适定性。

实验结果

研究问题

• RQ1 如何系统性地利用耦合技术降低MCMC采样中的渐近方差？
• RQ2 最优传输原理在马尔可夫过程高效耦合构造中起何种作用？
• RQ3 在扩散过程与逐段确定性过程的耦合空间中，会涌现出哪些结构性质（如奇点定理）？
• RQ4 如何量化耦合过程趋于平衡态的收敛性？会引出哪些新不等式？
• RQ5 能否从耦合框架中导出类似对称变量的新方法，以提升贝叶斯推断中的采样效率？

主要发现

• 当耦合对应于多变量最优传输问题的解时，耦合采样器的渐近方差达到最小。
• 建立了奇点定理，揭示了高效耦合结构在几何与概率层面的约束条件。
• 该框架支持构建新型对称变量技术，用于贝叶斯后验方差估计，可在不增加计算成本的前提下降低方差。
• 推导出一种改进的庞加莱不等式，为耦合过程趋于平衡态的收敛速率提供了定量界。
• 数值实验支持理论结果，表明最优传输问题的近似解可产生有效耦合，显著降低方差。
• 对泊松方程解的边界行为进行了严格分析，确保在势函数满足弱条件时解的可积性与唯一性。