[论文解读] DIPPA: An improved Method for Bilinear Saddle Point Problems

Guangzeng Xie, Yuze Han+1 more|arXiv (Cornell University)|Mar 15, 2021

Stochastic Gradient Optimization Techniques参考文献 40被引用 5

一句话总结

本文提出DIPPA，一种用于双线性鞍点问题的新一代一阶算法，仅需访问平滑且强凸函数 $g$ 和 $h$ 的梯度，避免了昂贵的近端预言机计算。其复杂度界达到最优的 $\tilde{\mathcal{O}}\left(\frac{\|\mathbf{A}\|_2}{\sqrt{\mu_x\mu_y}} + \sqrt[4]{\kappa_x\kappa_y(\kappa_x + \kappa_y)}\right)$，在中等耦合区间内优于先前方法。

ABSTRACT

This paper studies bilinear saddle point problems $\min_{\bf{x}} \max_{\bf{y}} g(\bf{x}) + \bf{x}^{ op} \bf{A} \bf{y} - h(\bf{y})$, where the functions $g, h$ are smooth and strongly-convex. When the gradient and proximal oracle related to $g$ and $h$ are accessible, optimal algorithms have already been developed in the literature \cite{chambolle2011first, palaniappan2016stochastic}. However, the proximal operator is not always easy to compute, especially in constraint zero-sum matrix games \cite{zhang2020sparsified}. This work proposes a new algorithm which only requires the access to the gradients of $g, h$. Our algorithm achieves a complexity upper bound $ ilde{\mathcal{O}}\left( \frac{\|\bf{A}\|_2}{\sqrt{μ_x μ_y}} + \sqrt[4]{κ_x κ_y (κ_x + κ_y)} ight)$ which has optimal dependency on the coupling condition number $\frac{\|\bf{A}\|_2}{\sqrt{μ_x μ_y}}$ up to logarithmic factors.

研究动机与目标

• 为解决双线性鞍点问题中近端预言机操作带来的高计算成本，特别是在矩阵博弈和约束优化等应用中。
• 设计一种仅依赖 $g$ 和 $h$ 梯度信息的一阶算法，避免昂贵的近端点计算。
• 在保持对条件数 $\kappa_x$ 和 $\kappa_y$ 紧密依赖的同时，实现对耦合条件数 $\|\mathbf{A}\|_2 / \sqrt{\mu_x\mu_y}$ 的最优依赖，提升收敛速率。
• 弥合现有上界与中等耦合区间内已知下界之间的差距，其中先前方法表现次优。

提出的方法

• 提出双次近似近端点算法（DIPPA），通过加速梯度下降实现子问题的近似求解，避免显式近端操作。
• 引入一种新颖的近似近端点框架，平衡子问题解的精度与整体收敛效率。
• 采用双层近似策略：通过自适应精度序列控制子问题解的近似程度，以维持收敛保证。
• 利用Catalyst框架加速近似近端点迭代，改善对条件数的依赖关系。
• 通过分析耦合强度 $\|\mathbf{A}\|_2$、强凸参数 $\mu_x, \mu_y$ 与光滑常数 $L_x, L_y$ 之间的相互作用，推导收敛速率。
• 采用一种新颖的分析技术，考虑近似子问题解带来的累积误差，从而获得比以往近似方法更紧的界。

实验结果

研究问题

• RQ1 能否设计一种一阶算法，用于双线性鞍点问题，避免调用近端预言机，同时保持最优收敛速率？
• RQ2 当仅能访问 $g$ 和 $h$ 的梯度时，可实现的最紧复杂度界是什么，特别是在中等耦合区间内？
• RQ3 如何控制近似子问题解以确保整体收敛，同时不牺牲对耦合条件数的最优性？
• RQ4 Catalyst框架能否被适配以改进双线性耦合鞍点问题中近似近端方案的收敛性？
• RQ5 所提方法在所有区间（包括中等耦合区间）内是否能实现已知下界复杂度（对数因子内）？

主要发现

• DIPPA 实现了 $\tilde{\mathcal{O}}\left(\frac{\|\mathbf{A}\|_2}{\sqrt{\mu_x\mu_y}} + \sqrt[4]{\kappa_x\kappa_y(\kappa_x + \kappa_y)}\right)$ 的收敛速率，其在耦合条件数上的依赖与已知下界一致（仅对数因子差异）。
• 该方法优于先前的近似方法（其复杂度为 $\tilde{\mathcal{O}}\left(\sqrt{\frac{\|\mathbf{A}\|_2 L}{\mu_x\mu_y}} + \sqrt{\kappa_x + \kappa_y}\right)$），尤其在中等耦合区间（当 $\|\mathbf{A}\|_2 = \Omega(\sqrt{L_x\mu_y + L_y\mu_x})$ 时）表现更优。
• 当 $\|\mathbf{A}\|_2 = \Omega(\sqrt[4]{L_xL_y(L_x\mu_y + L_y\mu_x)})$ 时，该方法达到理论下界，证明了其紧致性。
• 在耦合既不微弱也不主导的区间内，该算法优于以往方法，填补了复杂度图谱中的关键空白。
• 分析表明，新界在 $\|\mathbf{A}\|_2 / \sqrt{\mu_x\mu_y}$ 上是最优的，同时引入了受控的 $\sqrt[4]{\kappa_x\kappa_y / (\kappa_x + \kappa_y)}$ 因子。
• 在弱耦合区间（$\|\mathbf{A}\|_2 = \mathcal{O}(\sqrt{L_x\mu_y + L_y\mu_x})$）内，该方法并非最优，现有方法仍更优。