[论文解读] Thermostat-assisted continuously-tempered Hamiltonian Monte Carlo for Bayesian learning

Rui Luo, Jianhong Wang+3 more|ePrints Soton (University of Southampton)|Nov 30, 2017

Gaussian Processes and Bayesian Inference被引用 7

一句话总结

本文提出了一种新型马尔可夫链蒙特卡洛采样器——温控连续退火哈密顿蒙特卡洛（TACT-HMC），通过将连续退火与诺斯-胡佛恒温器相结合，高效地从贝叶斯学习中的多模态后验分布中采样。该方法在复杂、高维的参数空间中显著提升了采样效率，并自适应地抑制了小批量训练带来的噪声，相较于强基线方法，在多种神经网络架构的图像分类任务中表现更优。

ABSTRACT

We propose a new sampling method, the thermostat-assisted continuously-tempered Hamiltonian Monte Carlo, for Bayesian learning on large datasets and multimodal distributions. It simulates the Nosé-Hoover dynamics of a continuously-tempered Hamiltonian system built on the distribution of interest. A significant advantage of this method is that it is not only able to efficiently draw representative i.i.d. samples when the distribution contains multiple isolated modes, but capable of adaptively neutralising the noise arising from mini-batches and maintaining accurate sampling. While the properties of this method have been studied using synthetic distributions, experiments on three real datasets also demonstrated the gain of performance over several strong baselines with various types of neural networks plunged in.

研究动机与目标

• 为解决在大规模数据集上进行贝叶斯学习时，多模态后验分布中探索效率低下的挑战。
• 缓解小批量梯度噪声对 MCMC 采样精度与稳定性的不利影响。
• 开发一种在高维、崎岖参数空间中仍能保持遍历性并生成代表性 i.i.d. 样本的采样方法。
• 在随机优化设置下，实现深度神经网络的鲁棒贝叶斯推理。
• 将连续退火与诺斯-胡佛恒温器整合为统一框架，以提升采样动力学性能。

提出的方法

• 该方法通过引入连续退火扩展了哈密顿蒙特卡洛（HMC），系统性地调节目标分布的有效温度，以帮助跨越能量壁垒。
• 采用诺斯-胡佛恒温器动态调节系统温度，并耗散由随机小批量梯度引入的噪声。
• 系统动力学由一个温度连续演化的退火哈密顿系统控制，从而实现对孤立模式的高效探索。
• 系统通过带有七元组参数化（包括步长、噪声水平和参数与退火变量的热惯性）的辛几何积分器进行模拟。
• 恒温机制可自动调节，以维持细致平衡，并确保在存在噪声梯度时仍能收敛至正确的目标分布。
• 该算法设计兼容随机优化，适用于大规模贝叶斯深度学习。

实验结果

研究问题

• RQ1 连续退火是否能显著提升贝叶斯学习中多模态后验分布的混合与探索能力？
• RQ2 诺斯-胡佛恒温器是否能有效抑制小批量梯度噪声，同时保持正确的目标分布？
• RQ3 退火与恒温机制的结合是否能带来更好的泛化性能与更高的深度学习任务准确率？
• RQ4 TACT-HMC 在具有复杂损失景观的真实数据集上，相较于最先进采样器与优化器的表现如何？
• RQ5 该方法在标签污染与训练数据噪声增加的情况下是否仍能保持稳健性能？

主要发现

• TACT-HMC 在 EMNIST、Fashion-MNIST 和 CIFAR-10 上均达到最先进性能，全面优于 Adam、动量 SGD、SGHMC 和 SGNHT。
• 在使用卷积神经网络的 CIFAR-10 上，TACT-HMC 在 30% 标签随机置换条件下达到 78.93% 的准确率，较次优方法（SGNHT）高出 2.16 个百分点。
• 在 Fashion-MNIST 上的 RNN 模型中，TACT-HMC 相较最佳基线方法准确率提升约 0.5%，表明其在序列模型上也具有一致优势。
• 即使在高比例标签污染（30% 标签随机置换）下，TACT-HMC 仍保持稳定且优越的性能，表明其对噪声数据具有强鲁棒性。
• 该方法在所有三个数据集与网络架构上均表现出一致改进，尤其在复杂、高维设置下优势显著。
• 连续退火与恒温机制的结合，使得系统能够高效探索孤立模式，并在小批量噪声存在下实现准确采样。