[论文解读] On the linear convergence of the projected stochastic gradient method with constant step-size

Volkan Cevher, Bằng Công Vũ|arXiv (Cornell University)|Dec 5, 2017

Stochastic Gradient Optimization Techniques参考文献 15被引用 2

一句话总结

本文证明了强增长条件（SGC）是投影随机梯度法使用固定步长（PSGM-CS）线性收敛的充要条件。当 SGC 受到加性扰动 $\sigma$ 破坏时，PSGM-CS 与近端随机梯度法均线性收敛至最优解的邻域，其误差与 $\gamma\sigma$ 成正比，其中 $\gamma$ 为步长。

ABSTRACT

The strong growth condition (SGC) is known to be a sufficient condition for linear convergence of the projected stochastic gradient method using a constant step-size $\gamma$ (PSGM-CS). In this paper, we prove that SGC is also a necessary condition for the linear convergence of PSGM-CS. Moreover, when SGC is violated up to a additive perturbation $\sigma$, we show that both PSGM-CS and the proximal stochastic gradient method exhibit linear convergence to a noise dominated region, whose distance to the optimal solution proportional to $\gamma \sigma$.

研究动机与目标

• 确定强增长条件（SGC）是否不仅对投影随机梯度法使用固定步长（PSGM-CS）的线性收敛是充分的，而且是必要的。
• 分析当 SGC 受到加性扰动 $\sigma$ 破坏时，PSGM-CS 与近端随机梯度法的行为。
• 量化在存在此类扰动时的收敛精度，特别是噪声主导状态下与最优解的距离。
• 在扰动 SGC 条件下，建立线性收敛速率的理论保证。

提出的方法

• 使用随机逼近和鞅差序列对 PSGM-CS 中的梯度噪声进行建模，开展理论分析。
• 在假设 SGC 成立及其受加性扰动 $\sigma$ 破坏的前提下，推导收敛界。
• 应用李雅普诺夫函数技术，分析迭代序列的稳定性和收敛速率。
• 在相同扰动条件下，比较 PSGM-CS 与近端随机梯度法的性能。
• 将固定步长 $\gamma$ 作为控制参数，量化收敛速度与最终精度之间的权衡。
• 通过反证法和构造 SGC 失效时的反例，正式证明 SGC 对线性收敛是必要的。

实验结果

研究问题

• RQ1 强增长条件（SGC）是否为投影随机梯度法使用固定步长的线性收敛所必需的？
• RQ2 当 SGC 受到加性扰动 $\sigma$ 破坏时，PSGM-CS 的收敛行为如何变化？
• RQ3 PSGM-CS 与近端随机梯度法的最终收敛精度如何随扰动 $\sigma$ 和步长 $\gamma$ 变化？
• RQ4 当 SGC 未严格满足但存在有界噪声时，是否仍能保证线性收敛？

主要发现

• 强增长条件（SGC）是投影随机梯度法使用固定步长（PSGM-CS）线性收敛的充要条件。
• 当 SGC 受到加性扰动 $\sigma$ 破坏时，PSGM-CS 线性收敛至一个噪声主导区域，其与最优解的距离与 $\gamma\sigma$ 成正比。
• 在相同扰动条件下，近端随机梯度法也表现出对最优解邻域的线性收敛。
• 即使在 SGC 被破坏的情况下，收敛速率仍保持线性，但最终精度与步长 $\gamma$ 和扰动幅度 $\sigma$ 的乘积成比例下降。
• 理论分析确认，若 SGC 不成立，则无法保证线性收敛，从而确立了其必要性。
• 研究结果对在噪声或梯度不完美条件下的随机一阶方法中收敛速度与最终精度之间的权衡提供了精确刻画。