[论文解读] Mini-batch Tempered MCMC

Dangna Li, Wing Hung Wong|arXiv (Cornell University)|Jul 31, 2017

Underwater Acoustics Research参考文献 7被引用 5

一句话总结

本文提出了一种名为小批量温度化MCMC（MINT-MCMC）的方法，该方法用小批量估计替代精确的Metropolis-Hastings比率，从而有效从温度化后验分布中采样。该方法通过利用小批量带来的偏差来增强混合性，实现了对高维、多模态后验分布的高效探索，已在合成数据和真实数据实验中得到验证，显示出对各模式的充分覆盖以及向正确边缘分布的收敛性。

ABSTRACT

In this paper we propose a general framework of performing MCMC with only a mini-batch of data. We show by estimating the Metropolis-Hasting ratio with only a mini-batch of data, one is essentially sampling from the true posterior raised to a known temperature. We show by experiments that our method, Mini-batch Tempered MCMC (MINT-MCMC), can efficiently explore multiple modes of a posterior distribution. Based on the Equi-Energy sampler (Kou et al. 2006), we developed a new parallel MCMC algorithm based on the Equi-Energy sampler, which enables efficient sampling from high-dimensional multi-modal posteriors with well separated modes.

研究动机与目标

• 为解决在大规模数据集上使用精确Metropolis-Hastings MCMC时的计算瓶颈问题，通过实现MH比率的小批量计算来提升效率。
• 建立小批量与MCMC中温度化之间的理论基础，证明小批量MH近似于从已知温度的后验分布中采样。
• 开发一种实用且广泛适用的MCMC算法，避免梯度计算，降低对步长衰减的需求，且不依赖复杂的校正方案。
• 实现对高维、分离良好的多模态后验分布的高效采样——尤其在标准MCMC难以逃逸局部模式的情况下。
• 将该框架扩展为并行采样算法MINTEE，利用等能原理实现对复杂后验分布的精确采样。

提出的方法

• 用小批量对似然比的估计替代全数据集的Metropolis-Hastings接受比率，从而降低每次迭代的计算成本。
• 理论分析表明，这种小批量MH步骤可渐近地从真实后验的已知温度T的幂次分布采样，即π^T(θ)。
• 采用增强技术证明，MINT生成的样本渐近分布为温度化后验π^T(θ)，其中T由小批量大小和似然估计的方差决定。
• 开发了MINTEE，一种基于等能采样器的并行MCMC算法，通过在不同温度下运行多个链来提升高维多模态后验分布中的混合性和模式跳跃能力。
• 引入温度控制机制，使算法即使在具有50个以上分离模式的高维空间中，也能以近似相等的概率探索所有模式。
• 实现该方法时无需梯度信息、步长衰减或自适应校正方案，使其广泛适用于非凸和复杂后验分布。

实验结果

研究问题

• RQ1 小批量估计的Metropolis-Hastings比率能否在理论上被证明为从温度化后验分布中采样？
• RQ2 小批量带来的偏差是否确实能改善高维、多模态后验分布中的混合性和模式跳跃？
• RQ3 小批量MCMC方法是否能在不依赖梯度信息或步长衰减的情况下，实现对分离良好的模式的高效探索？
• RQ4 MINT-MCMC在多模态、高维设置下的性能与标准MCMC和变分推断相比如何？
• RQ5 该框架能否扩展为一种并行的、基于等能原理的MCMC算法（MINTEE），实现对复杂后验分布的精确采样？

主要发现

• 在一个包含50个独立模式的50维多模态混合模型中，MINT-MCMC成功以近似相等的概率访问了全部50个模式，该结果通过T-SNE可视化和K-means肘部分析得到验证。
• MINT-MCMC样本的1维边缘分布与真实后验分布一致，显示出双峰分布，其中θ₁=0处的模式概率约为θ₁=2处模式的50倍。
• 作为MINT的并行扩展，MINTEE从最低温度链生成了300,000个样本，其分布正确遵循目标后验分布，未发现模式偏差或收敛失败的迹象。
• 标准MCMC无法从初始局部模式中逃逸，而MINT-MCMC成功探索了整个模式空间，展现出更优的混合性能。
• 该方法无需步长衰减或梯度计算，可执行更大、更具探索性的移动，这对多模态后验采样至关重要。
• 理论分析证实，小批量MH步骤可导致渐近采样于π^T(θ)，其中T由小批量大小和似然方差显式确定，从而解决了朴素子采样方法失败的根本原因。