[论文解读] Stochastic Methods for Composite and Weakly Convex Optimization Problems

John C. Duchi, Feng Ruan|arXiv (Cornell University)|Mar 24, 2017

Stochastic Gradient Optimization Techniques参考文献 23被引用 16

一句话总结

该论文提出了一类随机近似梯度与近似次梯度方法，用于求解复合型与弱凸优化问题，其中目标函数为非光滑凸函数与光滑映射的复合，且分布为随机或未知。在较弱条件下，该方法收敛至一阶驻点，具备收敛性保证，并在非光滑相位恢复问题上得到实验验证。

ABSTRACT

We consider minimization of stochastic functionals that are compositions of a (potentially) non-smooth convex function $h$ and smooth function $c$ and, more generally, stochastic weakly-convex functionals. We develop a family of stochastic methods---including a stochastic prox-linear algorithm and a stochastic (generalized) sub-gradient procedure---and prove that, under mild technical conditions, each converges to first-order stationary points of the stochastic objective. We provide experiments further investigating our methods on non-smooth phase retrieval problems; the experiments indicate the practical effectiveness of the procedures.

研究动机与目标

• 解决在数据访问受限或存在噪声的场景下，最小化随机复合目标函数 $ f(x) = \mathbb{E}_P[h(c(x;S);S)] $ 的挑战，其中 $ h $ 为凸函数，$ c $ 为光滑映射。
• 将近似梯度法扩展至随机与弱凸设置，其中目标函数不一定是凸的，但满足弱凸性条件。
• 设计实用的随机算法，在采样噪声与未知分布存在的情况下仍保持收敛性保证。
• 为复合型与一般弱凸随机优化问题提供理论保证，证明其收敛至一阶驻点。
• 通过数值实验验证所提方法在非光滑相位恢复问题上的有效性。

提出的方法

• 提出一种随机近似梯度算法，通过使用 $ S \sim P $ 的噪声样本，迭代最小化复合函数 $ f(x) = h(c(x)) $ 的线性逼近模型。
• 定义模型 $ f_{x_k}(y) = h(c(x_k) + \nabla c(x_k)^T(y - x_k)) $，其在 $ y $ 上为凸函数，并利用该模型构建带正则项 $ \varphi $ 与邻近项的子问题。
• 使用 $ f(x;S) $ 的梯度估计 $ g_k $，其中 $ g_k \in \partial h(c(x_k);S) \cdot \nabla c(x_k;S) $，通过 $ x_{k+1} = \arg\min_{x \in X} \left\{ f_{x_k}(x) + \varphi(x) + \frac{1}{2\alpha_k}\|x - x_k\|^2 \right\} $ 更新迭代点。
• 当近似梯度模型计算成本过高时，引入一种替代的随机广义次梯度方法。
• 通过鞅与 $ L^2 $ 有界性论证建立收敛性，证明迭代点几乎必然有界，且几乎必然收敛至驻点。
• 利用包含步长 $ \alpha_k $、噪声 $ L(S_k) $ 与阻尼参数 $ \lambda $ 的递归界，证明 $ \|x_k\| $ 几乎必然保持随机有界。

实验结果

研究问题

• RQ1 能否将随机近似梯度方法扩展至仅通过样本访问分布的弱凸与复合随机优化问题？
• RQ2 在非凸设置下，随机近似梯度与次梯度方法在何种条件下收敛至一阶驻点？
• RQ3 所提方法在非光滑、非凸问题（如相位恢复）中实际表现如何？
• RQ4 当目标函数仅为弱凸或复合型时，对迭代点可提供何种理论保证？
• RQ5 在随机梯度与噪声项的较弱正则性与矩条件假设下，能否建立收敛性？

主要发现

• 在较弱技术条件下（如 $ h $ 与 $ \nabla c $ 的利普希茨连续性），随机近似梯度方法几乎必然收敛至随机复合目标函数 $ f(x) = \mathbb{E}_P[h(c(x;S);S)] $ 的一阶驻点。
• 在假设 $ \mathbb{E}[L(S)^2] = 1 $（其中 $ L(S) $ 有界随机梯度）下，迭代点 $ x_k $ 几乎必然保持随机有界，即 $ \sup_k \mathbb{E}[\|x_k\|] < \infty $。
• 通过鞅收敛性论证实现收敛：噪声项 $ Z_k - \mathbb{E}[Z_k] \to 0 $ 几乎必然，确保 $ \|x_k\| $ 稳定。
• 在正则性与强制性假设下，正则项 $ \varphi $ 沿迭代点有界，即对所有 $ k $ 有 $ \varphi(x_k) \leq B' $。
• 随机广义次梯度方法同样收敛至驻点，收敛速度依赖于步长 $ \alpha_k $ 与噪声结构。
• 在非光滑相位恢复问题上的数值实验表明，所提方法具有实际有效性，表现出稳定收敛性与对噪声的鲁棒性。