[论文解读] Solving variational inequalities with Stochastic Mirror-Prox algorithm

Anatoli Juditsky, Arkadi Nemirovski+1 more|arXiv (Cornell University)|Sep 4, 2008

Optimization and Variational Analysis被引用 7

一句话总结

本文提出了一种用于求解单调算子的随机变分不等式问题的随机镜像-近似（SMP）算法，结合了镜像下降与随机预言机反馈。该算法实现了最优收敛速率 $ O(1)\big(\frac{L}{t} + \frac{M + \sigma}{\sqrt{t}}\big) $，与理论下界一致，并在大规模问题（如随机半定可行性与特征值最小化）中通过随机化显著降低了计算成本。

ABSTRACT

In this paper we consider iterative methods for stochastic variational inequalities (s.v.i.) with monotone operators. Our basic assumption is that the operator possesses both smooth and nonsmooth components. Further, only noisy observations of the problem data are available. We develop a novel Stochastic Mirror-Prox (SMP) algorithm for solving s.v.i. and show that with the convenient stepsize strategy it attains the optimal rates of convergence with respect to the problem parameters. We apply the SMP algorithm to Stochastic composite minimization and describe particular applications to Stochastic Semidefinite Feasability problem and Eigenvalue minimization.

研究动机与目标

• 开发一种高效的首阶算法，用于求解当仅能获得算子的噪声且无偏观测时的随机变分不等式（s.v.i.）问题。
• 将确定性镜像-近似算法扩展至随机设置，同时在不同问题维度下保持最优收敛速率。
• 证明通过SMP算法实现的随机化可在大规模问题中显著降低计算成本，相比确定性方法具有明显优势。
• 在随机预言机的Lipschitz连续性和有界噪声的一般假设下，建立收敛速率与误差界的确切理论保证。
• 将SMP算法应用于实际问题，如随机半定可行性与确定性特征值最小化，展示其通用性与高效性。

提出的方法

• SMP算法采用镜像下降框架，结合双估计随机预言机以逼近单调算子 $ F $，其中每次预言机调用返回一个具有有界方差的无偏估计 $ \Xi(z_i, \zeta_i) $。
• 通过使用强凸正则化项的近端映射来确保稳定性与收敛性，步长策略经仔细调整以平衡算子的平滑与非平滑分量。
• 算法在预测步骤中使用噪声梯度估计，随后通过近端更新执行校正步骤，模仿随机环境下额外梯度法的机制。
• 关键组成部分是使用范数对偶范数 $ \|\cdot\|_* $ 来定义在 $ \|\cdot\| $-范数下算子的Lipschitz型行为，从而实现误差量化。
• 该方法引入随机采样策略，仅访问部分数据条目，显著降低每次迭代的计算成本，实现在大规模场景下的次线性时间复杂度。
• 理论分析利用集中不等式与鞅论证，对期望误差 $ \mathop{\rm Err}_{\rm vi}(z) $ 进行上界估计，最终导出最优速率 $ O(1)\big(\frac{L}{t} + \frac{M + \sigma}{\sqrt{t}}\big) $。

实验结果

研究问题

• RQ1 能否使镜像-近似算法的随机版本在单调算子的随机变分不等式问题中实现最优收敛速率 $ O(1)\big(\frac{L}{t} + \frac{M + \sigma}{\sqrt{t}}\big) $？
• RQ2 SMP算法是否能在高维问题中保持最优性能，避免维度灾难？
• RQ3 在大规模设置下，预言机与近端更新中的随机化是否能显著降低计算成本，相比确定性方法？
• RQ4 在大规模问题中使用SMP算法时，精度、置信水平与数据访问成本之间的权衡如何？
• RQ5 SMP算法在具体应用（如随机半定可行性与特征值最小化）中的表现如何？

主要发现

• SMP算法实现了最优收敛速率 $ O(1)\big(\frac{L}{t} + \frac{M + \sigma}{\sqrt{t}}\big) $，与随机单调变分不等式的理论下界一致。
• 该算法的期望误差以 $ O(1)\big(\frac{L}{t} + \frac{M + \sigma}{\sqrt{t}}\big) $ 速率衰减，且该速率与问题维度无关，确保在大规模问题中性能一致。
• 在随机半定可行性与特征值最小化问题中，SMP算法提供了低复杂度解法，其计算成本随数据规模呈次线性增长。
• 在大规模问题中应用时，SMP算法仅访问数据条目的可忽略比例——$ \vartheta = O(1)\big[k\nu^{-1} + \ln(1/\delta)\nu^{-2}\big]\big(\frac{1}{m} + \frac{1}{n}\big) $——但仍能以高概率达到所需精度。
• 当 $ n/p $ 较大时，计算工作量比 $ R = \mathcal{C}^{\rm DMP}/\mathcal{C}^{\rm SMP} $ 显著增大，表明SMP在高维情形下显著优于确定性镜像-近似算法。
• 当 $ k = \text{Ceil}\big(\frac{mp}{m+n}\big) $ 时，SMP算法在预言机与近端映射成本之间实现平衡，保持每步计算成本与 $ k=1 $ 相当，同时提升收敛效率。