[论文解读] Error bounds for Approximations of Markov chains used in Bayesian Sampling

James E. Johndrow, Jonathan C. Mattingly|arXiv (Cornell University)|Nov 15, 2017

Markov Chains and Monte Carlo Methods参考文献 20被引用 12

一句话总结

该论文通过利用加权总变差和 Wasserstein 范数，并借助 Lyapunov 函数确保严格压缩性质，建立了贝叶斯采样中马尔可夫链近似误差的界。论文提出了适用于原始转移核为严格压缩的通用且可验证的条件，从而实现了对时间平均值和不变测度近似误差的紧致界，并将其应用于高斯近似和 MCMC 方法中的小批量处理问题。

ABSTRACT

We give a number of results on approximations of Markov kernels in total variation and Wasserstein norms weighted by a Lyapunov function. The results are applied to examples from Bayesian statistics where approximations to transition kernels are made to reduce computational costs.

研究动机与目标

• 解决高维贝叶斯推断中对计算高效马尔可夫链近似的日益增长的需求。
• 控制 MCMC 算法中因简化转移核而引入的近似误差。
• 提出一个统一框架，利用加权度量（总变差和 Wasserstein）量化时间平均值和不变测度中的误差。
• 建立原始核在加权度量下为严格压缩的可验证条件，从而实现误差界。
• 将该框架应用于实际贝叶斯问题，包括使用高斯近似的吉布斯采样和小批量 Metropolis-Hastings 方法。

提出的方法

• 使用带 Lyapunov 函数的加权总变差和 1-Wasserstein 范数来度量收敛性和近似误差。
• 在加权半度量中应用压缩论证，以界定精确链与近似链的不变测度和时间平均值之间的差异。
• 利用泊松方程和势函数技术，推导时间平均值的方差界。
• 验证原始核在加权度量下，特别是在较不标准的 Wasserstein 类似半度量中，为严格压缩的条件。
• 借鉴 Hairer（2011）的思路，利用加权上确界范数中的摄动理论，推导谱间隙和收敛速率的界。
• 提出 Wasserstein 类似半度量的有限时间压缩结果，将连续时间论证推广至离散时间马尔可夫链。

实验结果

研究问题

• RQ1 在何种条件下，马尔可夫核在加权总变差或 Wasserstein 范数下为严格压缩？
• RQ2 当在 MCMC 中使用简化转移核时，如何对时间平均值和不变测度中的近似误差进行界定？
• RQ3 原始核在加权 Wasserstein 类似半度量下为严格压缩的充分条件是什么？
• RQ4 误差界如何随近似误差 ε 和所选度量中的谱间隙变化？
• RQ5 该框架能否应用于实际贝叶斯问题，如小批量 Metropolis-Hastings 和低秩协方差近似？

主要发现

• 论文证明，若原始核在加权度量（如总变差或 Wasserstein）下为严格压缩，则时间平均值的近似误差受一个与 ε 成正比的项所限制，其中 ε 为点态近似误差。
• 对于满足 |φ| < √V 的函数 φ，近似链下时间平均值的方差满足形如 O(ε) + O(1/n) + O(1/n²) 的界，其中显式常数依赖于谱间隙和 Lyapunov 函数。
• 当近似误差 ε 较小时，时间平均误差的界以 O(ε) 的速率衰减，且常数依赖于加权范数中 V^{1/2} 的谱间隙 1−ᾱ(1/2)。
• 该方法适用于奇异近似（如高斯过程模型中的低秩协方差近似），这些近似在总变差意义下不接近，但在 1-Wasserstein 范数下接近。
• 作者在关键示例中验证了原始核在加权 Wasserstein 类似半度量下的严格压缩条件，包括高斯近似和小批量 Metropolis-Hastings。
• 该框架可推广至任意下半连续度量 d，只要核在 d 下为严格压缩，且势函数 U 在对偶范数下有定义且有界。