[论文解读] Interacting Contour Stochastic Gradient Langevin Dynamics

Wei Deng, Siqi Liang+3 more|arXiv (Cornell University)|Feb 20, 2022

Markov Chains and Monte Carlo Methods被引用 5

一句话总结

本文提出交互轮廓随机梯度朗之万动力学（ICSGLD），一种可扩展的、无需通信的并行MCMC采样器，通过多个马尔可夫链之间仅进行最小通信的交互，在复杂能量景观中加速收敛。在计算成本相当的情况下，相比单链CSGLD，该方法实现了更优的方差减少与模式探索，展现出在大规模不确定性估计任务中的强劲性能。

ABSTRACT

We propose an interacting contour stochastic gradient Langevin dynamics (ICSGLD) sampler, an embarrassingly parallel multiple-chain contour stochastic gradient Langevin dynamics (CSGLD) sampler with efficient interactions. We show that ICSGLD can be theoretically more efficient than a single-chain CSGLD with an equivalent computational budget. We also present a novel random-field function, which facilitates the estimation of self-adapting parameters in big data and obtains free mode explorations. Empirically, we compare the proposed algorithm with popular benchmark methods for posterior sampling. The numerical results show a great potential of ICSGLD for large-scale uncertainty estimation tasks.

研究动机与目标

• 为解决SGLD在深度学习中常见的复杂多模态能量景观下混合缓慢的问题。
• 通过实现边际能量似然的高效分布式估计，克服重要性采样在大数据中高方差与可扩展性差的问题。
• 设计一种可扩展的并行MCMC算法，在保持低通信开销的同时提升收敛性与探索能力。
• 在小批量随机近似下，理论证明交互系统的渐近效率与稳定性。
• 在大规模不确定性估计任务上实证验证该方法，结果优于基准采样器。

提出的方法

• ICSGLD通过引入仅共享边际能量似然估计的多个交互链，扩展了轮廓SGLD（CSGLD），从而最小化通信成本。
• 提出一种新型交互随机场函数，以在高维复杂能量景观中实现稳健的、方差减少的态密度估计。
• 算法采用固定学习率，并利用并行链实现无需显式退火或交换的自由模式探索。
• 交互机制通过使链集体更高效地穿越能量壁垒，提升收敛性，优于孤立链。
• 理论分析建立了非线性平均场系统的局部稳定性及随机近似过程的渐近正态性。
• 该方法采用小批量梯度，并通过随机场函数实现自适应参数估计策略。

实验结果

研究问题

• RQ1 在收敛速度与方差减少方面，是否能证明最小通信的并行交互MCMC采样器优于单链SGLD？
• RQ2 在能量范围宽广的大数据场景下，如何稳定边际能量似然的估计？
• RQ3 使用交互链是否能实现无需显式副本交换或退火的自由模式探索？
• RQ4 在计算预算相当的情况下，交互系统是否比单链CSGLD具有更高的渐近效率？
• RQ5 所提出的随机场函数是否能有效降低复杂后部分布重要性采样中的方差？

主要发现

• 即使总迭代次数相同，ICSGLD在估计态密度方面显著低于单链CSGLD的方差。
• 在高斯混合模型上，该方法展现出优越的模式探索能力，能有效从两个模式中采样，即使存在高能量壁垒。
• 在MNIST上的实证结果表明，采用固定学习率时性能出色，体现出鲁棒性与可扩展性。
• 在深度神经网络的不确定性估计任务中，ICSGLD优于pCSGLD、pSGLD和EpsGreedy等基准方法。
• 理论分析证实，在计算预算相当的情况下，ICSGLD比单链CSGLD具有更高的渐近效率。
• 所提出的交互随机场函数在大数据中实现了稳定且自适应的参数估计，克服了标准重要性采样方法的局限性。