[论文解读] Covariance-Controlled Adaptive Langevin Thermostat for Large-Scale Bayesian Sampling

Xiaocheng Shang, Zhanxing Zhu+2 more|arXiv (Cornell University)|Oct 29, 2015

Markov Chains and Monte Carlo Methods参考文献 23被引用 16

一句话总结

本文提出了一种用于大规模贝叶斯采样的协方差控制自适应朗之万（CCAdL）热浴，该方法可动态调整与参数相关的噪声，从而提升采样效率与准确性。通过基于协方差估计自适应控制噪声耗散，CCAdL在大步长设置下实现了更快的收敛速度，并在性能上优于SGHMC和SGNHT，尤其在高维设置中表现更优。

ABSTRACT

Monte Carlo sampling for Bayesian posterior inference is a common approach used in machine learning. The Markov Chain Monte Carlo procedures that are used are often discrete-time analogues of associated stochastic differential equations (SDEs). These SDEs are guaranteed to leave invariant the required posterior distribution. An area of current research addresses the computational benefits of stochastic gradient methods in this setting. Existing techniques rely on estimating the variance or covariance of the subsampling error, and typically assume constant variance. In this article, we propose a covariance-controlled adaptive Langevin thermostat that can effectively dissipate parameter-dependent noise while maintaining a desired target distribution. The proposed method achieves a substantial speedup over popular alternative schemes for large-scale machine learning applications.

研究动机与目标

• 为解决现有随机梯度MCMC方法假设噪声方差恒定、无法有效处理大规模贝叶斯推断中参数相关噪声的问题。
• 开发一种鲁棒且自适应的热浴，确保在有效耗散噪声梯度影响的同时保持正确的不变分布。
• 在大规模数据集的高维机器学习应用中，提升采样效率与收敛速度。
• 在噪声方差在参数空间中变化的实际情况中，降低采样偏差并增强实现的可靠性。

提出的方法

• CCAdL方法引入一种自适应扩散矩阵，其与子采样梯度噪声的估计协方差成比例，从而实现动态噪声控制。
• 通过引入参数相关的协方差估计，扩展了自适应朗之万热浴框架，使系统能够响应局部噪声结构。
• 在高维设置中采用对角协方差近似，以降低计算成本，同时保持关键统计特性。
• 采用一种朴素的非对称分裂格式进行数值积分，确保稳定性并收敛至目标分布。
• 该方法结合了SGHMC（二阶动力学）与SGNHT（自适应温度控制）的优点，但通过处理非平稳噪声，进一步优于两者。
• 通过构造保证不变分布的正确性，即使在存在噪声梯度的情况下，也能确保正确的贝叶斯后验采样。

实验结果

研究问题

• RQ1 能否设计一种自适应热浴，在不扭曲目标后验分布的前提下，有效耗散随机梯度MCMC中的参数相关噪声？
• RQ2 在多种大规模数据集上，CCAdL在收敛速度和采样精度方面与SGHMC和SGNHT相比表现如何？
• RQ3 在实际应用中，协方差估计在多大程度上提升了对步长和阻尼参数选择的鲁棒性？
• RQ4 在高维问题中，CCAdL方法在使用对角协方差估计时是否仍能保持准确性？

主要发现

• 在大步长设置下，CCAdL显著优于SGHMC和SGNHT，收敛速度更快，显著减少了为达到低测试误差所需的数据集遍历次数。
• 在connect-4、letter和acoustic数据集上，CCAdL在广泛摩擦参数（A）范围内均实现了低于SGHMC和SGNHT的测试误差率，表现出更优的鲁棒性。
• SGHMC需采用小步长（h）和大阻尼（A）才能表现良好，这限制了其实际应用价值，而CCAdL即使在较大h和不同A值下仍保持高效。
• 该方法在存在噪声梯度的情况下仍能保持准确的后验均值估计，与基线方法相比，均值估计偏差极小。
• 在高维问题中（如N_d > 1000），CCAdL中的对角协方差估计提供了计算高效的近似，同时保持了性能表现。