[论文解读] On Markov chain Monte Carlo methods for tall data

Rémi Bardenet, Randal Douc+1 more|arXiv (Cornell University)|May 11, 2015

Markov Chains and Monte Carlo Methods参考文献 48被引用 133

一句话总结

本文提出了一种基于子采样的新型马尔可夫链蒙特卡洛（MCMC）方法，将高维数据集每次迭代的样本点似然评估次数从标准的 O(n) 复杂度降低，在有利情况下可达到 O(1) 次评估，方法基于泰勒展开构造的对数似然代理模型。该方法从一个与真实后验分布可证明接近的分布中进行采样，在伯恩斯坦-冯米塞斯近似成立时可实现显著的计算优势。

ABSTRACT

Markov chain Monte Carlo methods are often deemed too computationally intensive to be of any practical use for big data applications, and in particular for inference on datasets containing a large number $n$ of individual data points, also known as tall datasets. In scenarios where data are assumed independent, various approaches to scale up the Metropolis-Hastings algorithm in a Bayesian inference context have been recently proposed in machine learning and computational statistics. These approaches can be grouped into two categories: divide-and-conquer approaches and, subsampling-based algorithms. The aims of this article are as follows. First, we present a comprehensive review of the existing literature, commenting on the underlying assumptions and theoretical guarantees of each method. Second, by leveraging our understanding of these limitations, we propose an original subsampling-based approach which samples from a distribution provably close to the posterior distribution of interest, yet can require less than $O(n)$ data point likelihood evaluations at each iteration for certain statistical models in favourable scenarios. Finally, we have only been able so far to propose subsampling-based methods which display good performance in scenarios where the Bernstein-von Mises approximation of the target posterior distribution is excellent. It remains an open challenge to develop such methods in scenarios where the Bernstein-von Mises approximation is poor.

研究动机与目标

• 为解决在样本量 n 极大时标准 MCMC 方法在高维数据集上计算不可行的问题，此时每次迭代的全数据似然评估成本过高。
• 开发一种基于子采样的 MCMC 方法，在显著减少每次迭代似然评估次数的同时，保持强大的理论保证。
• 通过引入对数似然的代理模型，改进现有置信采样器，使其在有利情况下实现次线性复杂度。
• 识别子采样 MCMC 方法在何种条件下可实现每次迭代 O(1) 次似然评估，特别是当伯恩斯坦-冯米塞斯近似准确时。

提出的方法

• 提出一种置信采样器，利用辅助变量和重要性采样构造对数似然比的无偏估计量。
• 采用基于泰勒展开的对数似然代理模型，以可控误差近似全数据对数似然。
• 基于置信区间设计停止规则，以确定每次 MCMC 迭代中应子采样的数据点数量，平衡精度与效率。
• 在伪边缘 Metropolis-Hastings 框架中应用，其中接受率基于似然比的无偏估计，确保精确后验分布采样。
• 利用伯恩斯坦-冯米塞斯近似，为对数似然在众数附近的局部二次近似（代理）提供理论依据。
• 采用递归构造方法，基于一系列逐步增大的子样本序列，构建似然比的无偏估计量，受 Rhee 和 Glynn（2013）的启发。

实验结果

研究问题

• RQ1 在高维数据设置下，基于子采样的 MCMC 方法是否能在保持后验精度的同时实现每次迭代 O(1) 次似然评估？
• RQ2 在何种条件下，基于代理模型的对数似然近似能产生可靠的 MCMC 采样并具备可证明的保证？
• RQ3 如何高效构造似然比的无偏估计量，以实现仅需次线性数据访问的精确后验采样？
• RQ4 伯恩斯坦-冯米塞斯近似对子采样 MCMC 方法的性能与可扩展性有何影响？
• RQ5 置信采样框架能否进一步改进，以在不牺牲后验精度的前提下降低计算成本？

主要发现

• 在伯恩斯坦-冯米塞斯近似极佳的有利场景下，所提方法实现了每次迭代 O(1) 次似然评估，打破了标准 O(n) 的计算瓶颈。
• 基于泰勒展开的代理模型可实现对对数似然的高精度近似，并具备已知误差界，从而支持可靠的子采样。
• 改进的置信采样器在逻辑回归和伽马回归实验中，于 covtype 数据集上展现出相对于基线方法显著的计算优势。
• 在 covtype 数据集上的实证结果表明，该方法在减少每次迭代数据访问量的同时，仍保持良好的混合性与收敛性。
• 该方法在理论上是有效的：其从一个与真实后验分布接近的分布中采样，且近似误差由代理模型的质量所控制。
• 该方法仍局限于伯恩斯坦-冯米塞斯近似准确的场景，凸显了其在更广泛应用中面临的关键挑战。