[论文解读] A Contour Stochastic Gradient Langevin Dynamics Algorithm for Simulations of Multi-modal Distributions

Wei Deng, Guang Lin+1 more|arXiv (Cornell University)|Oct 19, 2020

Markov Chains and Monte Carlo Methods参考文献 58被引用 7

一句话总结

该论文提出轮廓随机梯度朗之万动力学（CSGLD），一种可扩展的自适应 SGMCMC 算法，通过基于能量的子区域加权实现动态重要性采样，以平坦化多模态目标分布。通过自适应调整权重以平衡各模态间的探索，CSGLD 加速了收敛并避免了深度学习中的局部陷阱，且在稳定性与收敛至唯一不动点方面具有理论保证，在 CIFAR10 和 CIFAR100 上优于 SGLD 和 reSGLD。

ABSTRACT

We propose an adaptively weighted stochastic gradient Langevin dynamics algorithm (SGLD), so-called contour stochastic gradient Langevin dynamics (CSGLD), for Bayesian learning in big data statistics. The proposed algorithm is essentially a \emph{scalable dynamic importance sampler}, which automatically \emph{flattens} the target distribution such that the simulation for a multi-modal distribution can be greatly facilitated. Theoretically, we prove a stability condition and establish the asymptotic convergence of the self-adapting parameter to a {\it unique fixed-point}, regardless of the non-convexity of the original energy function; we also present an error analysis for the weighted averaging estimators. Empirically, the CSGLD algorithm is tested on multiple benchmark datasets including CIFAR10 and CIFAR100. The numerical results indicate its superiority to avoid the local trap problem in training deep neural networks.

研究动机与目标

• 解决使用传统 SGLD 在非凸、多模态后验分布下训练深度神经网络时出现的混合缓慢和陷入局部陷阱的问题。
• 将传统 MCMC 中的平坦直方图采样原理扩展至随机梯度设置，实现在大数据场景下的可扩展贝叶斯推断。
• 开发一种稳定且自适应的算法，通过动态调整权重以平坦化能量景观并改善各模态间的探索。
• 在非凸设置下，建立自适应参数的理论收敛性与稳定性。
• 通过实证验证，CSGLD 在复杂数据集（如 CIFAR10 和 CIFAR100）上避免局部最优并实现更优的不确定性量化方面具有优势。

提出的方法

• CSGLD 使用固定的能量带宽 Δu 将样本空间划分为基于能量的子区域，并为每个区域分配自适应权重 θ(i)，以平坦化目标密度。
• 采用加权密度 ϖ_θ(x) ∝ π(x)/Ψ_θ^ζ(U(x))，其中 Ψ_θ(U(x)) 是能量 U(x) 的分段常数函数，ζ 控制平坦化的程度。
• 该算法采用随机逼近方案，通过学习率 ω_k 更新潜在向量 θ，即使在非凸设置下也能确保收敛至不动点。
• 引入高阶偏差项 ω_{k+1}^2 1_{i≥J_U(x_{k+1})}ρ 以加速高能量区域的收敛，后被 Deng 等人（2022）提出的更可扩展方案所替代。
• 该方法使用自适应权重的重要性采样，以校正平坦化目标引入的偏差，从而实现对原始后验下期望的准确估计。
• 在 CSGHMC 和 saCSGHMC 等扩展中引入动量和权重衰减，以提升在视觉数据集上的性能。

实验结果

研究问题

• RQ1 基于能量子区域的动态重要性采样方法是否能改善深度学习中多模态后验分布的混合？
• RQ2 CSGLD 中的自适应权重更新是否能在能量函数非凸的情况下确保稳定性并收敛至唯一不动点？
• RQ3 在复杂数据集上训练深度神经网络时，CSGLD 相较于 SGLD 和 reSGLD 是否能更有效地避免局部最优？
• RQ4 平坦化参数 ζ 和分区数量 m 对算法稳定性与收敛速度有何影响？
• RQ5 高阶偏差项或新的可扩展更新方案是否能在不引入不稳定性的情况下提升高能量区域的收敛性？

主要发现

• CSGLD 通过在能量子区域间自适应调整权重，成功平坦化目标分布，显著改善了多模态后验中的探索能力。
• 理论分析表明，在温和条件下，自适应参数 θ 即使在能量函数非凸时也能收敛至唯一不动点。
• 在 CIFAR10 和 CIFAR100 上，CSGLD 在避免局部最优方面优于 SGLD 和 reSGLD，展现出在深度学习中更优的不确定性量化性能。
• 该算法在中等数量的分区（10–1000）下实现稳定收敛，有效平衡了离散化误差与数值稳定性。
• Deng 等人（2022）提出的可扩展更新方案消除了对偏差参数 ρ 的依赖，提升了实用性，并在高能量区域实现了更优的收敛性。
• 实证结果表明，CIFAR10 使用 ζ = 1×10^6，CIFAR100 使用 ζ = 3×10^6 时性能表现优异，表明算法能有效适应复杂数据分布。