[论文解读] Nonasymptotic estimates for Stochastic Gradient Langevin Dynamics under local conditions in nonconvex optimization

Ying Zhang, Ömer Deniz Akyıldız+2 more|arXiv (Cornell University)|Oct 4, 2019

Markov Chains and Monte Carlo Methods参考文献 27被引用 18

一句话总结

本文在非凸优化中，于局部Lipschitz和局部耗散性条件下，为随机梯度朗之万动力学（SGLD）提供了非渐近收敛保证，消除了对数据的统一依赖。建立了Wasserstein-1和Wasserstein-2收敛界，并推导出非渐近过剩风险界，使在复杂、非i.i.d.环境下实现具有理论严谨性的实际采样与优化成为可能。

ABSTRACT

In this paper, we are concerned with a non-asymptotic analysis of sampling algorithms used in nonconvex optimization. In particular, we obtain non-asymptotic estimates in Wasserstein-1 and Wasserstein-2 distances for a popular class of algorithms called Stochastic Gradient Langevin Dynamics (SGLD). In addition, the aforementioned Wasserstein-2 convergence result can be applied to establish a non-asymptotic error bound for the expected excess risk. Crucially, these results are obtained under a local Lipschitz condition and a local dissipativity condition where we remove the uniform dependence in the data stream. We illustrate the importance of this relaxation by presenting examples from variational inference and from index tracking optimization.

研究动机与目标

• 在较弱的、局部正则性条件下，为非凸优化中的SGLD提供非渐近收敛估计。
• 消除对全局Lipschitz和耗散性假设的需求，这些假设在实际中往往不现实。
• 在局部条件下，建立SGLD在Wasserstein-1和Wasserstein-2距离下的收敛性。
• 推导出在非凸设定下，期望过剩风险的非渐近误差界。
• 通过具体示例，展示其在变分推断和指数跟踪中的适用性。

提出的方法

• 分析基于目标函数梯度的局部Lipschitz连续性和局部耗散性条件。
• 作者采用李雅普诺夫函数方法，控制SGLD的SDE近似中的漂移和扩散项。
• 通过耦合和矩估计，推导出Wasserstein-1和Wasserstein-2距离下的非渐近界。
• 该方法引入与步长相关的常数，并考虑了随机梯度的条件偏倚和方差。
• 关键估计通过矩界和指数矩推导，显式依赖于数据矩和逆温度。
• 通过模型参数和数据矩的显式表达式，验证了理论结果中常数的依赖关系。

实验结果

研究问题

• RQ1 在非凸优化中，SGLD的非渐近收敛性是否可在局部而非全局正则性条件下建立？
• RQ2 SGLD的Wasserstein-2收敛率如何依赖于局部梯度性质和数据分布矩？
• RQ3 在局部耗散性和Lipschitz条件下，期望过剩风险的非渐近界是什么？
• RQ4 收敛界中的常数如何随维度、逆温度和数据流特性变化？
• RQ5 该理论框架能否应用于变分推断和指数跟踪等实际问题？

主要发现

• 在局部Lipschitz和局部耗散性条件下，无需全局有界性假设，建立了Wasserstein-1距离下的非渐近收敛性。
• 推导出Wasserstein-2距离的非渐近收敛界，该界可直接推出期望目标值的非渐近过剩风险界。
• 收敛率依赖于步长、维度、逆温度，以及数据和随机梯度的矩，显式依赖于$\mathbb{E}[\eta(X_0)]$和$\mathbb{E}[|X_0|\eta(X_0)]$。
• 界中常数$\hat{c}$的量级为$O\left(\sqrt{\frac{d}{\beta}} \cdot e^{C(1 + \beta L_1 \mathbb{E}[\eta(X_0])(1 + d/\beta))}\right)$，反映出对维度和数据复杂性的敏感性。
• 该框架适用于实际问题，如变分推断和指数跟踪，这些场景中全局正则性假设不成立，但局部条件成立。
• 与先前工作相比，本研究消除了对数据流的统一依赖，使理论结果在现实世界非凸优化中具有更广泛适用性。