[论文解读] Stochastic Methods for Composite Optimization Problems

John C. Duchi, Feng Ruan|arXiv (Cornell University)|Mar 24, 2017

Stochastic Gradient Optimization Techniques参考文献 20被引用 22

一句话总结

本文提出了一种用于最小化复合随机目标的随机近似梯度和次梯度算法，该目标涉及非光滑凸函数与光滑函数的复合。在温和条件下，这些方法收敛至一阶驻点，并在非光滑相位恢复问题上进行了经验验证，展示了其实际有效性。

ABSTRACT

We consider minimization of stochastic functionals that are compositions of a (potentially) non-smooth convex function $h$ and smooth function $c$ and, more generally, stochastic weakly-convex functionals. We develop a family of stochastic methods---including a stochastic prox-linear algorithm and a stochastic (generalized) sub-gradient procedure---and prove that, under mild technical conditions, each converges to first-order stationary points of the stochastic objective. We provide experiments further investigating our methods on non-smooth phase retrieval problems; the experiments indicate the practical effectiveness of the procedures.

研究动机与目标

• 解决在目标函数为非光滑凸函数与光滑函数复合时的随机复合目标最小化挑战。
• 开发能够处理弱凸和非光滑泛函的鲁棒随机优化方法，适用于随机设置。
• 在温和的技术条件下，建立收敛至一阶驻点的保证。
• 在实际非光滑问题（如相位恢复）上评估所提方法的性能。

提出的方法

• 本文提出了一种随机近似梯度算法，通过线性化光滑分量并针对非光滑分量执行近端步骤，迭代逼近复合目标。
• 提出了一种随机广义次梯度方法，用于处理弱凸随机目标，利用随机设置下的次梯度信息。
• 该方法在随机预言机模型下运行，其中函数值和次梯度的评估存在噪声，但满足特定的矩条件。
• 收敛性分析基于有界梯度和光滑分量的利普希茨连续性等假设，确保收敛至一阶驻点。
• 该框架可同时处理凸与弱凸目标，扩展了其在标准光滑或强凸设置之外的应用范围。
• 理论分析采用鞅差序列和几乎必然收敛论证，建立了期望收敛和几乎必然收敛的结果。

实验结果

研究问题

• RQ1 对于复合非光滑随机目标，随机近似梯度方法是否能收敛至一阶驻点？
• RQ2 随机次梯度方法在弱凸随机泛函上的表现如何？
• RQ3 在复合非光滑优化设置中，哪些条件可确保随机算法的收敛性？
• RQ4 在非光滑相位恢复问题上，所提方法在实际中表现如何？

主要发现

• 在有界梯度和光滑分量的利普希茨连续性等温和技术条件下，随机近似梯度算法可收敛至一阶驻点。
• 随机广义次梯度方法对弱凸随机目标同样可实现收敛至一阶驻点。
• 在非光滑相位恢复问题上的实证结果表明，两种方法在实际中均有效且对噪声具有鲁棒性。
• 收敛保证在期望和几乎必然意义下均成立，理论分析基于鞅收敛技术。