[論文レビュー] DIPPA: An improved Method for Bilinear Saddle Point Problems

Guangzeng Xie, Yuze Han+1 more|arXiv (Cornell University)|Mar 15, 2021

Stochastic Gradient Optimization Techniques参考文献 40被引用数 5

ひとこと要約

本稿では、滑らかで強く凸な関数 $g$ および $h$ の勾配のみにアクセスする新規の1次元アルゴリズム DIPPA を提案する。この手法は、高価な近位オракル計算を回避し、$\tilde{\mathcal{O}}\left(\frac{\|\mathbf{A}\|_2}{\sqrt{\mu_x\mu_y}} + \sqrt[4]{\kappa_x\kappa_y(\kappa_x + \kappa_y)}\right)$ の最適な複雑度バウンドを達成し、中程度の結合度領域において従来手法を改善する。

ABSTRACT

This paper studies bilinear saddle point problems $\min_{\bf{x}} \max_{\bf{y}} g(\bf{x}) + \bf{x}^{ op} \bf{A} \bf{y} - h(\bf{y})$, where the functions $g, h$ are smooth and strongly-convex. When the gradient and proximal oracle related to $g$ and $h$ are accessible, optimal algorithms have already been developed in the literature \cite{chambolle2011first, palaniappan2016stochastic}. However, the proximal operator is not always easy to compute, especially in constraint zero-sum matrix games \cite{zhang2020sparsified}. This work proposes a new algorithm which only requires the access to the gradients of $g, h$. Our algorithm achieves a complexity upper bound $ ilde{\mathcal{O}}\left( \frac{\|\bf{A}\|_2}{\sqrt{μ_x μ_y}} + \sqrt[4]{κ_x κ_y (κ_x + κ_y)} ight)$ which has optimal dependency on the coupling condition number $\frac{\|\bf{A}\|_2}{\sqrt{μ_x μ_y}}$ up to logarithmic factors.

研究の動機と目的

• 双線形サドルポイント問題における近位オラクル操作の高コストを軽減すること、特に行列ゲームや制約付き最適化の応用分野において。
• 関数 $g$ および $h$ の勾配情報にのみ依存する1次元アルゴリズムを構築し、高価な近位点計算を回避すること。
• 結合条件数 $\|\mathbf{A}\|_2 / \sqrt{\mu_x\mu_y}$ に対して最適な依存性を達成しつつ、条件数 $\kappa_x$ および $\kappa_y$ に対してもきめ細やかな依存性を維持すること。
• 従来の上界と既知の下界との差を埋めるために、中程度の結合度領域で従来手法が劣化する領域におけるギャップを埋めること。

提案手法

• 近位点計算を明示的に行わずに、加速勾配降下法による不正確な部分問題解法を用いる「二重不正確近位点アルゴリズム（DIPPA）」を提案する。
• 部分問題解法の精度と全体の収束効率のバランスを取る、新しい不正確近位点フレームワークを統合する。
• 二重層構造の不正確性戦略を採用：部分問題の近似解は、収束保証を維持しつつ、適応的精度列によって制御される。
• Catalystフレームワークを活用して、不正確近位点反復を加速し、条件数への依存性を改善する。
• 結合強度 $\|\mathbf{A}\|_2$、強凸性パrameter $\mu_x, \mu_y$、滑らかさ定数 $L_x, L_y$ の間の相互作用を分析することで収束レートを導出する。
• 不正確部分問題解法の累積誤差を考慮する新しい解析技術を用い、従来の不正確手法よりもきめ細やかなバウンドを達成する。

実験結果

リサーチクエスチョン

• RQ1 双線形サドルポイント問題に対して、近位オラクル呼び出しを回避しつつも最適な収束レートを達成する1次元アルゴリズムを設計可能か？
• RQ2 特に中程度の結合度領域において、$g$ および $h$ の勾配情報のみが利用可能な場合に、達成可能な最もタイトな複雑度バウンドは何か？
• RQ3 不正確な部分問題解法はどのように制御すれば、結合条件数の最適性を損なわずに全体の収束を保証できるか？
• RQ4 Catalystフレームワークは、双線形結合を有するサドルポイント問題の不正確近位スキームに適応可能か？
• RQ5 提案手法は、中程度の結合度を含むすべての領域で、既知の下界複雑度を対数要因を除き達成するか？

主な発見

• DIPPA は $\tilde{\mathcal{O}}\left(\frac{\|\mathbf{A}\|_2}{\sqrt{\mu_x\mu_y}} + \sqrt[4]{\kappa_x\kappa_y(\kappa_x + \kappa_y)}\right)$ の収束レートを達成し、結合条件数に関して既知の下界と対数要因を除き一致する。
• 従来の不正確手法 $\tilde{\mathcal{O}}\left(\sqrt{\frac{\|\mathbf{A}\|_2 L}{\mu_x\mu_y}} + \sqrt{\kappa_x + \kappa_y}\right)$ よりも、特に $\|\mathbf{A}\|_2 = \Omega(\sqrt{L_x\mu_y + L_y\mu_x})$ である中程度の結合度領域で優れている。
• $\|\mathbf{A}\|_2 = \Omega(\sqrt[4]{L_xL_y(L_x\mu_y + L_y\mu_x)})$ の場合、理論的下界に一致し、タイトさが裏付けられる。
• 結合が弱くも強くもない領域で、従来手法に比べて顕著に優れた性能を示し、複雑度の地図における重要なギャップを埋めている。
• 解析により、$\|\mathbf{A}\|_2 / \sqrt{\mu_x\mu_y}$ に関して最適であり、$\sqrt[4]{\kappa_x\kappa_y / (\kappa_x + \kappa_y)}$ の制御された要因が導入されていることが示された。
• 弱い結合領域（$\|\mathbf{A}\|_2 = \mathcal{O}(\sqrt{L_x\mu_y + L_y\mu_x})$）では、既存手法が依然として優れているため、本手法は最適ではない。