[论文解读] Optimal approximating Markov chains for Bayesian inference

James E. Johndrow, Jonathan C. Mattingly+2 more|arXiv (Cornell University)|Aug 13, 2015

Markov Chains and Monte Carlo Methods参考文献 23被引用 13

一句话总结

本文提出了一种在贝叶斯推断中对马尔可夫链进行最优近似的框架，通过平衡近似误差与计算成本来实现。在统一混合条件下，建立了真实不变测度与近似不变测度之间总变差距离的紧致界，并引入了计算最优性的概念，以指导高效的MCMC近似，该方法在逻辑斯蒂回归和高斯过程模型中得到验证。

ABSTRACT

The Markov Chain Monte Carlo method is the dominant paradigm for posterior computation in Bayesian analysis. It is common to control computation time by making approximations to the Markov transition kernel. Comparatively little attention has been paid to computational optimality in these approximating Markov Chains, or when such approximations are justified relative to obtaining shorter paths from the exact kernel. We give simple, sharp bounds for uniform approximations of uniformly mixing Markov chains. We then suggest a notion of optimality that incorporates computation time and approximation error, and use our bounds to make generalizations about properties of good approximations in the uniformly mixing setting. The relevance of these properties is demonstrated in applications to a minibatching-based approximate MCMC algorithm for large $n$ logistic regression and low-rank approximations for Gaussian processes.

研究动机与目标

• 为解决近似MCMC中近似误差（ε）与计算时间权衡缺乏系统性分析的问题。
• 提供真实后验分布与近似不变测度之间总变差距离的简洁、紧致界。
• 定义一种计算最优性的概念，综合考虑统计精度（近似误差）与计算成本。
• 在统一混合条件下推广良好近似所具备的性质，以适用于实际的MCMC算法。
• 在真实世界应用中验证该框架，如逻辑斯蒂回归中的小批量处理与高斯过程中的低秩近似。

提出的方法

• 使用Doeblin条件（统一几何遍历性）确保马尔可夫链以指数速度收敛到其不变测度。
• 在精确核P与近似核Pε之间施加统一的总变差误差界ε，且要求ε < α/2以保持几何遍历性。
• 推导出一个关键界：‖μ − με‖_TV ≤ ε/α，表明不变测度中的近似误差与ε成正比，与几何遍历性参数α成反比。
• 引入一种计算最优性准则，以平衡近似误差与采样成本之间的权衡。
• 将理论界应用于分析大规模n逻辑斯蒂回归中的基于小批量的MCMC以及高斯过程中的低秩近似。
• 采用扰动理论与耦合论证，推导出Cesáro平均与路径估计量收敛性的界。

实验结果

研究问题

• RQ1 在近似MCMC中，何种近似误差水平ε能最小化总误差（统计误差 + 计算误差）？
• RQ2 几何遍历性参数α如何影响后验近似对核扰动的敏感性？
• RQ3 在统一混合条件下，能否推导出真实与近似不变测度之间总变差距离的紧致、可计算的界？
• RQ4 为使误差与计算成本的综合代价最小化，最优近似核Pε应具备何种性质？
• RQ5 理论界在大规模数据贝叶斯模型（如逻辑斯蒂回归与高斯过程）中的实际性能提升如何体现？

主要发现

• 真实后验μ与近似不变测度με之间的总变差距离满足界：‖μ − με‖_TV ≤ ε/α，其中α为Doeblin系数。
• 当ε < α/2时，近似链Pε仍保持统一几何遍历性，且具有严格为正的几何遍历性参数αε > α − 2ε。
• 该理论框架使在固定预算下能够选择最优的ε，以实现近似误差与计算成本之间的最佳平衡。
• 该界被应用于表明，逻辑斯蒂回归中的小批量处理与高斯过程中的低秩近似可在控制误差的前提下实现显著加速。
• 结果表明，即使ε适中，当α较大时，近似误差仍保持较小，支持在高维设置中采用激进近似。
• 该框架为基于误差与计算效率权衡，评估和比较不同近似MCMC算法提供了系统性方法。