[论文解读] Optimal Algorithms for Stochastic Three-Composite Convex-Concave Saddle Point Problems

Renbo Zhao|arXiv (Cornell University)|Mar 5, 2019

Stochastic Gradient Optimization Techniques被引用 5

一句话总结

本文提出了一种新颖的随机一阶原始对偶算法，用于求解三重复合凸-凹鞍点问题，首次引入了针对强凸原始变量的随机重启方案。在次高斯梯度噪声下，该方法的Oracle复杂度严格优于现有方法，其复杂度与已知下界相比，仅相差对数因子。

ABSTRACT

We develop stochastic first-order primal-dual algorithms to solve a class of convex-concave saddle-point problems. When the saddle function is strongly convex in the primal variable, we develop the first stochastic restart scheme for this problem. When the gradient noises obey sub-Gaussian distributions, the oracle complexity of our restart scheme is strictly better than any of the existing methods, even in the deterministic case. Furthermore, for each problem parameter of interest, whenever the lower bound exists, the oracle complexity of our restart scheme is either optimal or nearly optimal (up to a log factor). The subroutine used in this scheme is itself a new stochastic algorithm developed for the problem where the saddle function is non-strongly convex in the primal variable. This new algorithm, which is based on the primal-dual hybrid gradient framework, achieves the state-of-the-art oracle complexity and may be of independent interest.

研究动机与目标

• 为解决具有改进收敛保证的随机三重复合凸-凹鞍点问题提供方法。
• 为原始分量是强凸的问题设计一种定制化的随机重启机制。
• 在所有相关问题参数下，实现最优或近乎最优的Oracle复杂度，仅相差对数因子。
• 为非强凸原始情况设计一种新型随机原始对偶算法，实现最先进复杂度。

提出的方法

• 所提方法在非强凸设定下，将随机原始对偶混合梯度框架作为子程序使用。
• 针对强凸原始情况，提出了一种新颖的随机重启方案，通过迭代重初始化来加速收敛。
• 算法能够动态适应问题参数，确保复杂度界在对数因子范围内紧致。
• 采用次高斯梯度噪声假设，推导出改进的Oracle复杂度界。
• 该方法结合原始对偶更新与方差减少技术，以增强稳定性和收敛性。
• 理论分析建立了与该问题类已知下界匹配或近乎匹配的复杂度界。

实验结果

研究问题

• RQ1 能否为具有强凸原始分量的凸-凹鞍点问题设计一种随机重启方案？
• RQ2 在次高斯梯度噪声下，此类问题可实现的最优Oracle复杂度是多少？
• RQ3 当存在噪声时，所提算法与确定性方法在复杂度上的对比如何？
• RQ4 能否为非强凸情况设计一种新型随机原始对偶算法，使其达到最先进复杂度？
• RQ5 所提方法在多大程度上匹配或逼近已知理论下界？

主要发现

• 所提随机重启方案的Oracle复杂度严格优于所有现有方法，即使在确定性设置下亦然。
• 对于所有存在下界的问题参数，Oracle复杂度要么最优，要么在对数因子范围内接近最优。
• 用于非强凸原始问题的子程序在该类别中实现了最先进Oracle复杂度。
• 在次高斯梯度噪声假设下，该方法的复杂度在对数因子范围内最优。
• 理论分析证实，该算法在所有相关问题场景下均与已知下界匹配或近乎匹配。