[论文解读] Scaling up Data Augmentation MCMC via Calibration

Leo L. Duan, James E. Johndrow+1 more|arXiv (Cornell University)|Mar 9, 2017

Bayesian Methods and Mixture Models被引用 12

一句话总结

本文提出校准数据增强MCMC（CDA-MCMC）以解决大规模贝叶斯推断中标准数据增强MCMC因条件后验分布校准不当导致的混合缓慢问题。通过自适应调节辅助变量的方差参数 $ r $ 和位置偏移 $ b $，并结合Metropolis-Hastings校正，CDA-MCMC显著降低了自相关性，提高了有效样本量，在probit、logistic和Poisson对数线性模型中实现了计算效率的大幅提升，且平稳分布无偏差。

ABSTRACT

There has been considerable interest in making Bayesian inference more scalable. In big data settings, most literature focuses on reducing the computing time per iteration, with less focused on reducing the number of iterations needed in Markov chain Monte Carlo (MCMC). This article focuses on data augmentation MCMC (DA-MCMC), a widely used technique. DA-MCMC samples tend to become highly autocorrelated in large data samples, due to a miscalibration problem in which conditional posterior distributions given augmented data are too concentrated. This makes it necessary to collect very long MCMC paths to obtain acceptably low MC error. To combat this inefficiency, we propose a family of calibrated data augmentation algorithms, which appropriately adjust the variance of conditional posterior distributions. A Metropolis-Hastings step is used to eliminate bias in the stationary distribution of the resulting sampler. Compared to existing alternatives, this approach can dramatically reduce MC error by reducing autocorrelation and increasing the effective number of DA-MCMC samples per computing time. The approach is simple and applicable to a broad variety of existing data augmentation algorithms, and we focus on three popular models: probit, logistic and Poisson log-linear. Dramatic gains in computational efficiency are shown in applications.

研究动机与目标

• 为解决大规模数据集下数据增强MCMC（DA-MCMC）中因高自相关性导致有效样本量减少和计算成本增加的混合缓慢问题。
• 解决DA-MCMC中条件后验分布因样本量 $ n $ 增大而过度集中的问题，从而导致混合性能差。
• 开发一种通用且可扩展的框架，通过辅助参数 $ r $ 和 $ b $ 调节条件后验方差，使步长与后验宽度保持一致。
• 在通过Metropolis-Hastings校正确保平稳分布为真实后验分布的同时，显著提升混合性能和单位时间内的有效样本量。
• 在probit、logistic和Poisson对数线性回归等关键模型中展示广泛适用性和显著的计算优势。

提出的方法

• 引入辅助参数 $ r_i $ 和 $ b_i $，用于缩放和调整数据增强方案中潜变量 $ z_i $ 的方差，从而调节 $ \theta $ 的条件方差。
• 修改 $ \theta $ 的完整条件分布，使其依赖于 $ R = \text{diag}(r_1, \dots, r_n) $，使得 $ \text{var}(\theta|z) \propto (X^T R^{-1} X)^{-1} $，从而实现对步长的控制。
• 使用Metropolis-Hastings步骤校正因校准提议分布而引入的偏差，确保不变分布保持为真实后验分布。
• 调节 $ r_i $ 和 $ b_i $，使得 $ \theta $ 的条件方差能随 $ n $ 适当缩放，例如 $ r \approx n / \log n $，以匹配高后验概率区域的宽度。
• 通过重新定义含 $ r_i $ 和 $ b_i $ 的增广数据似然函数，将该方法应用于probit、logistic和Poisson对数线性模型，保持共轭性的同时提升混合性能。
• 通过理论分析与实证验证表明，校准后的采样器相比标准DA-MCMC具有更高的有效样本量和更低的自相关性。

实验结果

研究问题

• RQ1 在 $ n \to \infty $ 时，DA-MCMC中条件后验分布的校准不当如何导致自相关性增加和混合性能下降？
• RQ2 在大规模贝叶斯推断中，调整数据增强中潜变量的方差是否能改善MCMC采样器的混合性能？
• RQ3 辅助方差参数 $ r $ 和位置偏移 $ b $ 的最优缩放方式是什么，才能与后验宽度匹配并提升有效样本量？
• RQ4 校准后的MCMC采样器能否在保持精确后验目标的同时，实现显著更快的收敛速度和更低的蒙特卡洛误差？
• RQ5 在probit、logistic和Poisson回归等真实世界模型中，所提出的校准算法与标准DA-MCMC及其他加速方法相比性能如何？

主要发现

• 与标准DA-MCMC相比，校准后的DA-MCMC（CDA-MCMC）显著降低了自相关性，尤其在大 $ n $ 时表现更优，自相关函数（ACF）显示衰减更快。
• 当 $ n = 10^4 $ 时，设置 $ r \approx n / \log n \approx 1000 $ 可实现最优混合性能，进一步将 $ r $ 增至5000不再带来额外收益。
• 若无Metropolis-Hastings校正，后验密度估计会随 $ r $ 变化；但加入校正后，所有采样器均产生相同的后验估计，证实了无偏采样。
• 当 $ r = 10 $ 和 $ r = 100 $ 时，M-H接受率接近1.0；当 $ r = 1000 $ 时下降至约0.6；当 $ r = 5000 $ 时进一步降至约0.2，表明在最优 $ r $ 之后收益递减。
• 该方法通过显著提升单位时间内的有效样本量，实现了计算效率的大幅提高，减少了对长MCMC链的需求。
• 该方法在probit、logistic和Poisson对数线性模型中具有广泛适用性，且在所有三类模型中均表现出一致的混合性能与效率提升。