[论文解读] Solving Weakly-Convex-Weakly-Concave Saddle-Point Problems as Successive Strongly Monotone Variational Inequalities

Qihang Lin, Mingrui Liu+2 more|arXiv (Cornell University)|Oct 24, 2018

Sparse and Compressive Sensing Techniques被引用 10

一句话总结

本文提出了一种新颖的算法框架，通过依次使用非精确的近精确点法求解一系列强单调变分不等式，来解决弱凸-弱凹型极小极大问题。该方法确保了对几乎平稳解的非渐近收敛，首次为使用标准子程序的非凸非凹鞍点问题提供了具有可证明复杂度边界的此类保证。

ABSTRACT

In this paper, we consider first-order algorithms for solving a class of non-convex non-concave min-max saddle-point problems, whose objective function is weakly convex (resp. weakly concave) in terms of the variable of minimization (resp. maximization). It has many important applications in machine learning, statistics, and operations research. One such example that attracts tremendous attention recently in machine learning is training Generative Adversarial Networks. We propose an algorithmic framework motivated by the inexact proximal point method, which solves the weakly monotone variational inequality corresponding to the original min-max problem by approximately solving a sequence of strongly monotone variational inequalities constructed by adding a strongly monotone mapping to the original gradient mapping. In this sequence, each strongly monotone variational inequality is defined with a proximal center that is updated using the approximate solution of the previous variational inequality. Our algorithm generates a sequence of solution that provably converges to a nearly stationary solution of the original min-max problem. The proposed framework is flexible because various subroutines can be employed for solving the strongly monotone variational inequalities. The overall computational complexities of our methods are established when the employed subroutines are subgradient method, stochastic subgradient method, gradient descent method and Nesterov's accelerated method and variance reduction methods for a Lipschitz continuous operator. To the best of our knowledge, this is the first work that establishes the non-asymptotic convergence to a nearly stationary point of a non-convex non-concave min-max problem.

研究动机与目标

• 解决机器学习、统计学和运筹学中出现的非凸非凹极小极大问题的挑战。
• 为弱凸-弱凹鞍点问题开发一种具有非渐近复杂度保证的可证明收敛的一阶算法。
• 通过构建一系列强单调子问题，将近精确点法推广至弱单调变分不等式。
• 实现各种优化子程序（例如梯度下降、Nesterov方法）的灵活集成，形成统一框架。

提出的方法

• 通过添加一个近精确正则化项，将原始的弱单调变分不等式重新表述为一系列强单调变分不等式。
• 每个子问题使用选定的子程序近似求解，近精确中心根据前一个近似解进行更新。
• 近精确中心迭代更新，确保下降并收敛至原始问题的平稳点。
• 该方法在求解子问题时允许非精确性，同时保持全局收敛保证。
• 该框架兼容确定性和随机一阶方法，包括次梯度、随机次梯度、梯度下降、Nesterov加速方法以及方差减少技术。
• 该算法设计用于处理Lipschitz连续算子，支持在标准光滑性假设下的复杂度分析。

实验结果

研究问题

• RQ1 我们能否使用一阶方法实现对弱凸-弱凹极小极大问题的几乎平稳解的非渐近收敛？
• RQ2 如何将近精确点法扩展至非单调或弱单调变分不等式，以适用于非凸非凹设置？
• RQ3 当使用梯度下降或Nesterov方法等标准子程序时，此类问题的计算复杂度是多少？
• RQ4 该框架是否能在允许子问题非精确解的情况下维持收敛保证？
• RQ5 近精确中心更新在稳定和加速非凸极小极大问题收敛方面起什么作用？

主要发现

• 所提出的框架实现了对原始弱凸-弱凹极小极大问题的几乎平稳解的非渐近收敛。
• 该方法为所有标准一阶子程序（包括次梯度、随机次梯度、梯度下降、Nesterov加速方法和方差减少技术）建立了计算复杂度边界。
• 该框架是首个为具有可证明复杂度的非凸非凹极小极大问题提供非渐近收敛保证的框架。
• 通过自适应近精确中心的近似求解一系列强单调变分不等式实现收敛。
• 该方法具有灵活性和模块化特性，可无缝集成任何现有的一阶方法作为子程序。
• 理论分析证实了在算子Lipschitz连续条件下的收敛性，确保其在实际问题（如GAN训练）中的广泛适用性。