[论文解读] Stochastic Primal-Dual Algorithms with Faster Convergence than O(1/√T) for Problems without Bilinear Structure.

Yan Yan, Yi Xu+3 more|arXiv (Cornell University)|Apr 23, 2019

Stochastic Gradient Optimization Techniques参考文献 33被引用 11

一句话总结

本文提出了一种新颖的随机原始-对偶算法，结合了随机梯度更新与对数数量级的确定性对偶更新，在不假设双线性结构的前提下，实现了凸-凹问题的快于 O(1/√T) 的收敛速度。在较弱条件下，包括原始变量的弱强凸性与对偶变量的强凹性，该方法实现了 O(1/T) 的收敛速率。

ABSTRACT

Previous studies on stochastic primal-dual algorithms for solving min-max problems with faster convergence heavily rely on the bilinear structure of the problem, which restricts their applicability to a narrowed range of problems. The main contribution of this paper is the design and analysis of new stochastic primal-dual algorithms that use a mixture of stochastic gradient updates and a logarithmic number of deterministic dual updates for solving a family of convex-concave problems with no bilinear structure assumed. Faster convergence rates than $O(1/\sqrt{T})$ with $T$ being the number of stochastic gradient updates are established under some mild conditions of involved functions on the primal and the dual variable. For example, for a family of problems that enjoy a weak strong convexity in terms of the primal variable and has a strongly concave function of the dual variable, the convergence rate of the proposed algorithm is $O(1/T)$. We also investigate the effectiveness of the proposed algorithms for learning robust models and empirical AUC maximization.

研究动机与目标

• 为解决现有随机原始-对偶方法依赖双线性结构所带来的局限性，从而限制其适用范围。
• 设计一种新算法，使无双线性结构问题的收敛速度优于 O(1/√T)。
• 在原始与对偶变量的函数条件较弱的前提下，建立收敛速率。
• 在鲁棒模型学习与经验 AUC 最大化任务上评估算法性能。

提出的方法

• 该算法结合了原始变量的随机梯度更新与对数数量级的确定性对偶更新。
• 利用原始变量的弱强凸性与对偶变量的强凹性，实现更快收敛。
• 该方法维持一个随迭代次数 T 对数增长的对偶变量更新调度。
• 在原始凸性与对偶凹性假设下，结合较弱的光滑性与曲率条件，进行收敛性分析。
• 将该算法应用于两个实际问题：鲁棒模型学习与经验 AUC 最大化。
• 通过李雅普诺夫函数方法推导理论保证，以界定向对偶间隙。

实验结果

研究问题

• RQ1 在极小-极大问题中，随机原始-对偶算法是否能在不假设双线性结构的前提下，实现快于 O(1/√T) 的收敛速度？
• RQ2 原始与对偶函数需满足何种条件，才能实现优于 O(1/√T) 的收敛速率？
• RQ3 与完整对偶更新相比，对数对偶更新调度如何影响收敛性与稳定性？
• RQ4 所提出的算法是否能有效解决鲁棒学习与 AUC 最大化任务？
• RQ5 在原始变量具有弱强凸性、对偶变量具有强凹性的条件下，理论收敛速率是多少？

主要发现

• 所提算法在原始变量具有弱强凸性、对偶变量具有强凹性的问题类别中，实现了 O(1/T) 的收敛速率，优于标准的 O(1/√T) 速率。
• 该收敛速率的提升不依赖于双线性结构假设，从而扩大了在非双线性极小-极大问题中的适用范围。
• 该算法仅维持对数数量级的确定性对偶更新，降低了计算开销，同时保持快速收敛。
• 实验结果表明，该方法在鲁棒模型学习中表现有效，能在对抗性噪声下提升泛化性能。
• 在经验 AUC 最大化任务中，该方法表现出色，收敛速度更快，AUC 分数优于基线随机原始-对偶方法。
• 理论分析证实，在给定函数假设下，该收敛速率为最优。