[论文解读] Perturbed gradient descent with occupation time.

Xin Guo, Jiequn Han+1 more|arXiv (Cornell University)|May 9, 2020

Stochastic Gradient Optimization Techniques参考文献 41被引用 2

一句话总结

本文提出PGDOT，一种使用占用时间来根据历史状态访问情况自适应调整扰动的扰动梯度下降算法，确保收敛速度至少与标准PGD一样快，且可证明地避免陷入鞍点。该方法通过利用累积状态访问历史动态调整扰动，在非凸设置中提升了优化稳定性。

ABSTRACT

This paper develops further the idea of perturbed gradient descent, by adapting perturbation with the history of state via the notation of occupation time for saddle points. The proposed algorithm PGDOT is shown to converge at least as fast as perturbed gradient descent (PGD) algorithm, and is guaranteed to avoid getting stuck at saddle points. The analysis is corroborated by experimental results.

研究动机与目标

• 解决在非凸优化中使用自适应扰动策略时鞍点停滞的挑战。
• 通过整合历史状态访问数据，提升扰动梯度下降的收敛速度和稳定性。
• 开发一种可证明收敛的算法，避免在鞍点处被困。
• 形式化占用时间作为优化中动态扰动自适应的机制。

提出的方法

• 该算法引入占用时间，定义为鞍点被访问的累计时间，以指导扰动大小。
• 扰动根据鞍点的占用时间进行调整，当其被频繁访问时增大。
• 该方法通过引入依赖于占用时间的时间相关扰动项，修改了标准PGD更新规则。
• 理论分析表明，在相同假设下，PGDOT的收敛速度至少与标准PGD相当。
• 该算法通过随占用时间增加而提高扰动强度，防止在鞍点处长时间停留。

实验结果

研究问题

• RQ1 占用时间能否用于在梯度下降中动态自适应扰动，以改善鞍点逃逸？
• RQ2 与标准扰动梯度下降相比，PGDOT是否保持或提升收敛速度？
• RQ3 在与PGD相同的条件下，PGDOT是否保证避免收敛到鞍点？
• RQ4 使用历史状态访问数据如何影响优化稳定性与收敛性？

主要发现

• 在相同假设下，PGDOT的收敛速度至少与标准扰动梯度下降一样快。
• 该算法通过基于占用时间自适应扰动，可证明地保证不会被困在鞍点。
• 实验结果证实了理论分析，显示出对鞍点的逃逸能力得到改善。
• 占用时间机制能有效增强频繁访问的鞍点处的扰动强度，从而实现更快逃逸。