[论文解读] Tempering by Subsampling

Jan-Willem van de Meent, Brooks Paige+1 more|arXiv (Cornell University)|Jan 28, 2014

Markov Chains and Monte Carlo Methods参考文献 27被引用 6

一句话总结

本文提出通过子采样实现退火（tempering by subsampling），这是一种计算高效的贝叶斯模型马尔可夫链蒙特卡洛（MCMC）采样方法，通过无放回递归子采样数据来降低计算成本。该方法在不损失采样效率的前提下，相比基线采样器显著提升了单位计算量下的有效样本量，其中子采样退火转移（STT）在高斯和高斯过程模型中表现优于其他方法。

ABSTRACT

In this paper we demonstrate that tempering Markov chain Monte Carlo samplers for Bayesian models by recursively subsampling observations without replacement can improve the performance of baseline samplers in terms of effective sample size per computation. We present two tempering by subsampling algorithms, subsampled parallel tempering and subsampled tempered transitions. We provide an asymptotic analysis of the computational cost of tempering by subsampling, verify that tempering by subsampling costs less than traditional tempering, and demonstrate both algorithms on Bayesian approaches to learning the mean of a high dimensional multivariate Normal and estimating Gaussian process hyperparameters.

研究动机与目标

• 在保持或提升采样效率的同时，降低贝叶斯推断中退火MCMC方法的计算成本。
• 解决传统退火方法因需完整似然评估而导致计算负担过重的问题，尤其在数据集规模增大时扩展性差。
• 开发并分析两种新算法——子采样子并行退火（SPT）与子采样子退火转移（STT），其利用数据子采样作为退火的一种形式。
• 通过实证验证，子采样退火方法在单位计算量下获得的有效样本量高于基线采样器。
• 为该方法的计算效率与收敛特性提供理论和实证依据。

提出的方法

• 该方法通过无放回递归子采样观测值，创建类似温度的状态，从而在数据上有效模拟加热与冷却过程。
• 子采样子并行退火（SPT）在不同子采样数据集上维护多个马尔可夫链，并通过链间交换提议来改善混合效果。
• 子采样子退火转移（STT）采用确定性的温度阶梯，对子采样数据进行正向与反向遍历，通过梅特罗波利斯-哈斯廷斯比率接受转移。
• 核心思想是：通过使用更小的数据子集来降低似然计算成本，从而减少每次采样的计算开销，同时保持探索复杂后验分布的能力。
• 该方法作为外层循环封装通用MCMC采样器（如HMC、MH、Gibbs），仅需似然函数能基于可观测数据集进行条件定义。
• 渐近运行时间分析表明，与全数据退火相比，子采样显著降低了计算成本，尤其在数据集规模增大时优势更明显。

实验结果

研究问题

• RQ1 在退火过程中对数据进行子采样，是否能降低计算成本，同时保持或提升贝叶斯MCMC的采样效率？
• RQ2 子采样退火是否在单位计算量下产生高于基线采样器的有效样本量？
• RQ3 子采样子退火的性能如何随数据集规模和参数维度的变化而变化？
• RQ4 是否可通过重采样子样本，利用子采样子退火获得贝叶斯因子的无偏估计？
• RQ5 不同内层采样器（如HMC与MH）在收敛行为，特别是有效样本量方面，表现如何比较？

主要发现

• 在所有测试模型和参数维度下，子采样子退火转移（STT）始终实现了最高的每秒有效样本量。
• 在50维多元高斯模型中，STT使用MH作为内层采样器时，每秒达到0.0579个有效样本，优于所有其他方法。
• 在100维高斯模型中使用HMC时，STT每秒实现0.0145个有效样本，显著超越次优方法。
• 在高斯过程超参数模型中，STT在所有数据集规模和维度下均优于其他方法，表现出对模型复杂度的强鲁棒性。
• 随着数据集规模增大，子采样子退火与基线方法之间的性能差距进一步扩大，证实了其可扩展性。
• 即使在高维设置下，该方法仍保持卓越性能，而基线采样器则因混合效果差和有效样本量低而表现不佳。