[论文解读] Nonasymptotic analysis of Stochastic Gradient Hamiltonian Monte Carlo under local conditions for nonconvex optimization

Ömer Deniz Akyıldız, Sotirios Sabanis|arXiv (Cornell University)|Feb 13, 2020

Markov Chains and Monte Carlo Methods参考文献 32被引用 11

一句话总结

本文在非凸优化的局部条件下，对随机梯度哈密顿蒙特卡洛（SGHMC）进行了非渐近分析，建立了与迭代次数无关的、在 Wasserstein-2 距离下阶为 $\eta^{1/4}$ 的一致收敛性。该分析为 SGHMC 作为全局优化器提供了目前已知的最佳收敛速率，并为贝叶斯推断和泛化性提供了非渐近界。

ABSTRACT

We provide a nonasymptotic analysis of the convergence of the stochastic gradient Hamiltonian Monte Carlo (SGHMC) to a target measure in Wasserstein-2 distance without assuming log-concavity. Our analysis quantifies key theoretical properties of the SGHMC as a sampler under local conditions which significantly improves the findings of previous results. In particular, we prove that the Wasserstein-2 distance between the target and the law of the SGHMC is uniformly controlled by the step-size of the algorithm, therefore demonstrate that the SGHMC can provide high-precision results uniformly in the number of iterations. The analysis also allows us to obtain nonasymptotic bounds for nonconvex optimization problems under local conditions and implies that the SGHMC, when viewed as a nonconvex optimizer, converges to a global minimum with the best known rates. We apply our results to obtain nonasymptotic bounds for scalable Bayesian inference and nonasymptotic generalization bounds.

研究动机与目标

• 在不假设对数凹性的情况下，为非凸优化中的 SGHMC 建立非渐近收敛界。
• 在局部条件下，量化 SGHMC 在 Wasserstein-2 距离下向目标测度的收敛性。
• 从 SGHMC 的收敛性出发，推导出在非凸问题中可扩展的贝叶斯推断与泛化性的非渐近界。
• 证明在局部光滑性与耗散性条件下，SGHMC 以目前已知的最佳速率收敛至全局最小值。

提出的方法

• 通过连续时间扩散过程及其欧拉离散化分析 SGHMC 算法，利用耦合论证将数值格式与连续动力学进行比较。
• 通过匹配两个过程的起始时间（数值格式与连续 SDE），在 Wasserstein-2 距离中采用压缩论证。
• 提出一种将 Wasserstein 距离分解为时间区间贡献的创新方法，每个区间的界由基于局部梯度条件导出的压缩系数控制。
• 利用矩界与耗散性假设控制过程的增长，确保四阶矩有界且具有统一稳定性。
• 利用 Chau 和 Rásonyi (2022) 的结果以及引理 5.4，界定了 SGHMC 的分布与目标测度之间的距离。
• 利用 Wasserstein 距离与梯度利普希茨常数，推导出势函数差 $\mathbb{E}[U(\theta_n^\eta)] - \mathbb{E}[U(\theta_\infty)]$ 的非渐近界。

实验结果

研究问题

• RQ1 SGHMC 是否能在不假设对数凹性的情况下，对非凸势函数实现 Wasserstein-2 距离下的统一非渐近收敛？
• RQ2 在局部条件下，SGHMC 作为全局优化器的最优收敛速率是什么？
• RQ3 如何从 SGHMC 的收敛性推导出贝叶斯推断与泛化性的非渐近界？
• RQ4 在局部光滑性与耗散性条件下，是否可以消除收敛速率对迭代次数的依赖？

主要发现

• SGHMC 的分布与目标测度之间的 Wasserstein-2 距离被统一有界于 $C_2^* \eta^{1/4}$，且与迭代次数无关。
• 在局部条件下，$\eta^{1/4}$ 的收敛速率是目前对非凸优化中 SGHMC 已知的最佳速率。
• 该分析通过 SGHMC 收敛速率建立了贝叶斯推断与泛化性的非渐近界。
• 该方法通过时间离散化的耦合论证与压缩估计，实现了对 Wasserstein 距离的统一控制。
• 界常数随维度 $d$ 呈 $\mathcal{O}(e^d)$ 的增长，反映了问题的高维特性。
• 势函数差满足 $\mathbb{E}[U(\theta_n^\eta)] - \mathbb{E}[U(\theta_\infty)] \leq (\overline{L}_1 C_m + h_0)(C_1^* d^{1/2} \eta^{1/2} + C_2^* \eta^{1/4} + C_3^* e^{-C_4^* \eta n})$，证实了全局收敛性。