[论文解读] Accelerated Primal-Dual Methods for Convex-Strongly-Concave Saddle Point Problems

Mohammad Khalafi, Digvijay Boob|arXiv (Cornell University)|Sep 10, 2022

Sparse and Compressive Sensing Techniques被引用 5

一句话总结

本文提出了一种加速线性化原始-对偶（ALPD）方法，用于处理具有线性化原始函数的凸-强对偶鞍点问题，实现了半线性耦合项的最优梯度复杂度。此外，还引入了一种非精确ALPD变体，用于一般非线性耦合情形，显著降低了耦合项的梯度复杂度，同时保持了最优的原始函数复杂度，通过在光滑及非线性约束问题上的数值实验得到验证。

ABSTRACT

We investigate a primal-dual (PD) method for the saddle point problem (SPP) that uses a linear approximation of the primal function instead of the standard proximal step, resulting in a linearized PD (LPD) method. For convex-strongly concave SPP, we observe that the LPD method has a suboptimal dependence on the Lipschitz constant of the primal function. To fix this issue, we combine features of Accelerated Gradient Descent with the LPD method resulting in a single-loop Accelerated Linearized Primal-Dual (ALPD) method. ALPD method achieves the optimal gradient complexity when the SPP has a semi-linear coupling function. We also present an inexact ALPD method for SPPs with a general nonlinear coupling function that maintains the optimal gradient evaluations of the primal parts and significantly improves the gradient evaluations of the coupling term compared to the ALPD method. We verify our findings with numerical experiments.

研究动机与目标

• 为解决当对偶函数强凸时，线性化原始-对偶（LPD）方法在原始函数Lipschitz常数上存在次优依赖性的问题。
• 设计一种单循环加速方法，实现半线性耦合项的最优梯度复杂度。
• 通过引入一种非精确两循环变体，将框架扩展至一般非线性耦合函数，降低耦合项梯度评估次数。
• 通过在光滑及非线性约束惩罚问题上的数值实验，验证理论改进效果。

提出的方法

• 通过将Nesterov加速梯度下降（AGD）集成到线性化PD框架中，提出一种新颖的单循环加速线性化原始-对偶（ALPD）方法。
• 在每次迭代中对原始函数 $ f(x) $ 使用线性近似，避免了昂贵的近端算子计算。
• 采用基于AGD推导的步长策略，确保间隙函数的收敛速率为 $ \mathcal{O}(1/K^2) $。
• 对于一般非线性耦合情形，引入一种非精确ALPD方法，通过AGD求解子问题来近似耦合项梯度。
• 保持原始函数的最优 $ \mathcal{O}(1/\epsilon) $ 梯度复杂度，同时将耦合项复杂度从 $ \mathcal{O}(1/\epsilon^2) $ 降低至 $ \mathcal{O}(1/\epsilon) $。
• 为对比，采用一种近端版本（ALPD-prox-g），对对偶函数 $ g(y) $ 使用精确近端步长。

实验结果

研究问题

• RQ1 在对偶函数强凸时，PD方法中对原始函数进行线性化是否会导致收敛性次优？
• RQ2 能否有效结合AGD加速与线性化PD步骤，实现在半线性耦合情形下的最优梯度复杂度？
• RQ3 ALPD框架能否扩展至一般非线性耦合函数，同时保持最优原始复杂度并改善耦合项复杂度？
• RQ4 在非线性约束问题上，非精确ALPD方法相较于标准ALPD与LPD在梯度评估次数与运行时间方面表现如何？

主要发现

• 当原始函数被线性化且对偶函数强凸时，标准LPD方法的复杂度为 $ \mathcal{O}(L_f / \epsilon + \|A\| / \sqrt{\mu_g \epsilon}) $，由于对 $ L_f $ 的依赖较差，导致次优。
• 所提出的ALPD方法在半线性耦合函数下实现了最优的 $ \mathcal{O}(\sqrt{L_f / \epsilon} + \|A\| / \sqrt{\mu_g \epsilon}) $ 梯度复杂度。
• 对于一般非线性耦合情形，非精确ALPD方法将耦合项梯度复杂度从 $ \mathcal{O}(1/\epsilon^2) $ 降低至 $ \mathcal{O}(1/\epsilon) $，同时保持了最优的原始复杂度。
• 数值实验表明，当 $ L_f $ 较大时，ALPD显著优于LPD，且ALPD-prox-g由于采用精确对偶更新，相较ALPD具有轻微优势。
• 在 $ m=10 $，$ n=100 $ 的非线性约束惩罚问题上，非精确ALPD在运行时间与收敛速度上均优于ALPD及其近端变体。
• 步长策略 $ \gamma_t = \Theta(t) $ 的实际表现优于Chambolle & Pock (2016) 中的 $ \sum \gamma_t = \Omega(K^2) $ 策略，可能由于显式二次增长。