[论文解读] Variational consensus Monte Carlo

Maxim Rabinovich, Elaine Angelino+1 more|arXiv (Cornell University)|Jun 9, 2015

Gaussian Processes and Bayesian Inference参考文献 26被引用 15

一句话总结

本文提出变分共识蒙特卡洛（VCMC），一种数据并行的贝叶斯推断方法，通过优化聚合函数以改进标准共识蒙特卡洛的后验近似。通过将聚合问题形式化为具有松弛、分块凹目标的变分推断问题，VCMC 相较于共识蒙特卡洛将后验估计误差降低了高达 92%，同时保持适中的优化开销，并在大规模数据集上实现接近理想的加速比。

ABSTRACT

Practitioners of Bayesian statistics have long depended on Markov chain Monte Carlo (MCMC) to obtain samples from intractable posterior distributions. Unfortunately, MCMC algorithms are typically serial, and do not scale to the large datasets typical of modern machine learning. The recently proposed consensus Monte Carlo algorithm removes this limitation by partitioning the data and drawing samples conditional on each partition in parallel (Scott et al, 2013). A fixed aggregation function then combines these samples, yielding approximate posterior samples. We introduce variational consensus Monte Carlo (VCMC), a variational Bayes algorithm that optimizes over aggregation functions to obtain samples from a distribution that better approximates the target. The resulting objective contains an intractable entropy term; we therefore derive a relaxation of the objective and show that the relaxed problem is blockwise concave under mild conditions. We illustrate the advantages of our algorithm on three inference tasks from the literature, demonstrating both the superior quality of the posterior approximation and the moderate overhead of the optimization step. Our algorithm achieves a relative error reduction (measured against serial MCMC) of up to 39% compared to consensus Monte Carlo on the task of estimating 300-dimensional probit regression parameter expectations; similarly, it achieves an error reduction of 92% on the task of estimating cluster comembership probabilities in a Gaussian mixture model with 8 components in 8 dimensions. Furthermore, these gains come at moderate cost compared to the runtime of serial MCMC, achieving near-ideal speedup in some instances.

研究动机与目标

• 解决共识蒙特卡洛在近似复杂、高维后验分布时因聚合函数次优而导致的局限性。
• 开发一种可扩展的数据并行 MCMC 框架，支持超越简单平均的自适应、结构感知聚合。
• 将聚合函数的选择形式化为变分贝叶斯问题，从而实现对灵活、非线性函数的优化。
• 在保持计算效率的同时，降低相对于串行 MCMC 的后验近似误差。
• 通过定制化的聚合函数，支持结构化推断问题（例如，正定矩阵、聚类中心等）。

提出的方法

• VCMC 将子后验样本的聚合形式化为变分贝叶斯问题，通过对确定性聚合函数进行优化，以最小化与真实后验之间的差异。
• 提出了一种对难以处理的变分目标的松弛方法，在温和条件下具有分块凹性，从而实现高效的优化。
• 该方法采用联合模型，其中分区级参数条件独立，并通过一个学习得到的函数 F 确定性地映射到全局参数。
• 该框架支持非线性及结构化聚合函数，例如保留协方差矩阵或聚类分配约束的函数。
• 支持逐样本聚合，实现跨数据分区的高效并行采样，且通信开销极低。
• 优化步骤采用小批量样本的随机梯度方法，兼容分布式和异步执行。

实验结果

研究问题

• RQ1 如何优化共识蒙特卡洛中的聚合函数，以获得对真实后验的更好近似？
• RQ2 能否使用变分推断来学习尊重参数约束（如正定性）的结构化聚合函数？
• RQ3 在聚合函数优化过程中，近似精度与计算成本之间的权衡如何？
• RQ4 VCMC 在后验估计误差和加速比方面与共识蒙特卡洛及串行 MCMC 相比如何？
• RQ5 VCMC 是否能在大规模、高维模型上实现接近理想的线性加速比，同时保持高后验精度？

主要发现

• 与共识蒙特卡洛相比，VCMC 在估计 300 维 probit 回归参数期望时，相对误差最高降低 39%。
• 在 8 维空间中包含 8 个分量的高斯混合模型上，VCMC 相较于共识蒙特卡洛将误差降低了 92%。
• 对于 probit 回归，VCMC 在优化时间少于 1500 秒内即可达到接近收敛的误差水平，其优化成本相较于串行 MCMC（需 6000+ 秒生成 1000 个有效样本）处于合理范围。
• 对于高斯混合模型，当分区数 K ≤ 25 时，VCMC 的加速比接近理想值 K；当 K = 50 和 100 时，加速比约为 K/2，表明其具有出色的可扩展性。
• VCMC 的优化成本足够低，可在极度并行场景中保持线性加速比，尤其在 MCMC 采样代价较高时优势明显。
• 在结构化设置中，VCMC 显著优于均匀平均和高斯平均，证明了学习得到的自适应聚合函数的优势。