[论文解读] Firefly Monte Carlo: Exact MCMC with Subsets of Data

Dougal Maclaurin, Ryan P. Adams|arXiv (Cornell University)|Mar 22, 2014

Markov Chains and Monte Carlo Methods参考文献 20被引用 48

一句话总结

Firefly Monte Carlo (FlyMC) 是一种精确的马尔可夫链蒙特卡洛算法，通过在每次迭代中使用数据子集，实现了大规模数据集上的高效贝叶斯推断。它引入了二值辅助变量，基于似然函数的下界以概率方式包含或排除数据点，从而在保持真实后验分布不变的同时，相比标准MCMC实现了超过10倍的速度提升。

ABSTRACT

Markov chain Monte Carlo (MCMC) is a popular and successful general-purpose tool for Bayesian inference. However, MCMC cannot be practically applied to large data sets because of the prohibitive cost of evaluating every likelihood term at every iteration. Here we present Firefly Monte Carlo (FlyMC) an auxiliary variable MCMC algorithm that only queries the likelihoods of a potentially small subset of the data at each iteration yet simulates from the exact posterior distribution, in contrast to recent proposals that are approximate even in the asymptotic limit. FlyMC is compatible with a wide variety of modern MCMC algorithms, and only requires a lower bound on the per-datum likelihood factors. In experiments, we find that FlyMC generates samples from the posterior more than an order of magnitude faster than regular MCMC, opening up MCMC methods to larger datasets than were previously considered feasible.

研究动机与目标

• 为解决标准MCMC在大规模数据集上计算瓶颈的问题，即每次迭代中评估所有似然项的开销过大。
• 开发一种MCMC方法，在每次迭代中仅使用数据子集的同时，保持精确的后验推断。
• 通过降低每次迭代的计算成本，实现在大规模数据集上实用的贝叶斯推断，且不引入渐近偏差。
• 提供一个与多种MCMC算法兼容的通用框架，仅需对每个数据点的似然项存在一个下界。

提出的方法

• 为每个数据点 $ x_n $ 引入二值辅助变量 $ z_n \in \{0,1\} $，其中 $ z_n = 1 $ 表示该数据点参与后验计算。
• 定义 $ z_n $ 的条件分布为伯努利分布，成功概率为 $ \frac{L_n(\theta) - B_n(\theta)}{L_n(\theta)} $，其中 $ B_n(\theta) $ 是似然 $ L_n(\theta) $ 的严格正下界。
• 构建一个扩展的联合后验 $ p(\theta, \{z_n\} \mid \{x_n\}) $，其边缘分布恰好为真实全数据后验 $ p(\theta \mid \{x_n\}) $。
• 使用Metropolis-Hastings或其他MCMC采样器联合更新 $ \theta $ 和 $ \{z_n\} $，其中提议分布依赖于辅助变量。
• 采用数据并行策略，每次迭代仅计算 $ z_n = 1 $ 对应的似然值，从而大幅降低计算成本。
• 利用 $ \theta $ 的边缘分布始终保持为真实全数据后验的特性，确保渐近正确性。

实验结果

研究问题

• RQ1 是否可以在每次迭代仅使用数据子集的前提下，使MCMC采样保持精确？
• RQ2 似然函数需满足何种条件，才能实现高效的数据子集MCMC且不引入渐近偏差？
• RQ3 如何设计辅助变量，以在实现数据子采样时保持真实后验分布？
• RQ4 是否能通过大幅降低MCMC的计算成本，同时不损失后验精度？
• RQ5 FlyMC在实际运行时间与收敛速度方面，与标准MCMC相比表现如何？

主要发现

• FlyMC在大规模数据集上实现后验采样速度比标准MCMC快一个数量级以上，且无渐近偏差。
• 该方法通过确保 $ \theta $ 的边缘分布保持为真实全数据后验，维持了精确的后验推断。
• 在MNIST、CIFAR-10和有机光伏数据集上的实验表明，使用MAP调优下界时，FlyMC在速度和收敛性方面均优于常规MCMC。
• 对似然项使用下界可使算法在每次迭代中跳过大量数据点的计算，显著减少每步的平均似然评估次数。
• 经调优的FlyMC（使用MAP估计设定下界）相比未调优变体性能显著提升，凸显了下界质量的重要性。
• 尽管通过 $ N $ 个辅助变量扩展了状态空间，FlyMC仍因每次转移计算效率极高而保持快速混合。