[論文レビュー] Accelerated Primal-Dual Methods for Convex-Strongly-Concave Saddle Point Problems

Mohammad Khalafi, Digvijay Boob|arXiv (Cornell University)|Sep 10, 2022

Sparse and Compressive Sensing Techniques被引用数 5

ひとこと要約

本稿は、線形化されたプライマル関数を伴う凸強凸的サドルポイント問題に対して、最適な勾配複雑度を達成する、加速された線形化プライマル・デュアル（ALPD）法を提案する。この手法は、半線形結合項における最適な勾配複雑度を達成する。さらに、一般の非線形結合項に対しては、不正確なALPDバージョンを導入し、結合項の勾配評価の複雑度を著しく改善しながら、最適なプライマル複雑度を維持する。数値実験により、滑らかで非線形制約付きの問題においてその有効性が検証された。

ABSTRACT

We investigate a primal-dual (PD) method for the saddle point problem (SPP) that uses a linear approximation of the primal function instead of the standard proximal step, resulting in a linearized PD (LPD) method. For convex-strongly concave SPP, we observe that the LPD method has a suboptimal dependence on the Lipschitz constant of the primal function. To fix this issue, we combine features of Accelerated Gradient Descent with the LPD method resulting in a single-loop Accelerated Linearized Primal-Dual (ALPD) method. ALPD method achieves the optimal gradient complexity when the SPP has a semi-linear coupling function. We also present an inexact ALPD method for SPPs with a general nonlinear coupling function that maintains the optimal gradient evaluations of the primal parts and significantly improves the gradient evaluations of the coupling term compared to the ALPD method. We verify our findings with numerical experiments.

研究の動機と目的

• プライマル関数のリプシッツ定数に依存する非最適な依存性を示す線形化プライマル・デュアル（LPD）法が、デュアル関数が強凸である場合に生じる問題に対処すること。
• 半線形結合項において最適な勾配複雑度を達成する、シングルループの加速手法を設計すること。
• 非線形結合関数に一般化するため、不正確な二ループ手法を導入し、結合項の勾配評価回数を削減すること。
• 滑らかで非線形制約付きのペナルティ問題における数値実験を通じて、理論的改善の妥当性を検証すること。

提案手法

• Nesterovの加速勾配降下法（AGD）を線形化されたPDフレームワークに統合することで、新規のシングルループ加速線形化プライマル・デュアル（ALPD）法を提案する。
• 各反復でプライマル関数 $ f(x) $ の線形近似を用い、高価なプロキシマル作用素の評価を回避する。
• AGDから導出されたステップサイズ方針を採用し、ギャップ関数の $ \mathcal{O}(1/K^2) $ 収束速度を保証する。
• 一般の非線形結合項に対しては、AGDを用いてサブプロブレムを解くことにより、結合項の勾配を近似する不正確なALPD法を導入する。
• プライマル関数の最適な $ \mathcal{O}(1/\epsilon) $ 勾配複雑度を維持し、結合項の複雑度を $ \mathcal{O}(1/\epsilon^2) $ から $ \mathcal{O}(1/\epsilon) $ に改善する。
• デュアル関数 $ g(y) $ に対して正確なプロキシマルステップを用いる比較用のプロキシマル版（ALPD-prox-g）を採用する。

実験結果

リサーチクエスチョン

• RQ1 デュアル関数が強凸である場合に、プライマル関数の線形化が、PD法における収束の非最適性を引き起こすか？
• RQ2 AGDによる加速を線形化PDステップと効果的に組み合わせることで、半線形結合項の場合に最適な勾配複雑度を達成できるか？
• RQ3 ALPDフレームワークを一般の非線形結合関数に拡張可能か？ また、最適なプライマル複雑度を維持するとともに、結合項の複雑度を改善できるか？
• RQ4 非線形制約付き問題において、不正確なALPD法は、標準ALPDおよびLPDと比較して勾配評価回数と実行時間の点で優れているか？

主な発見

• プライマル関数を線形化し、デュアル関数が強凸である場合、標準LPD法は $ L_f $ に悪く依存する非最適な複雑度 $ \mathcal{O}(L_f / \epsilon + \|A\| / \sqrt{\mu_g \epsilon}) $ を示す。
• 提案されたALPD法は、半線形結合関数に対して最適な $ \mathcal{O}(\sqrt{L_f / \epsilon} + \|A\| / \sqrt{\mu_g \epsilon}) $ 勾配複雑度を達成する。
• 一般の非線形結合項に対しては、不正確なALPD法により、結合項の勾配複雑度を $ \mathcal{O}(1/\epsilon^2) $ から $ \mathcal{O}(1/\epsilon) $ に削減し、同時に最適なプライマル複雑度を維持する。
• 数値実験では、$ L_f $ が大きい場合にALPDがLPDを著しく上回ることを示し、ALPD-prox-gは正確なデュアル更新のおかげでALPDにわずかに優位性を示す。
• 非線形制約付きペナルティ問題（$ m=10 $, $ n=100 $）において、不正確なALPD法は、ALPDおよびそのプロキシマル版をすべて上回り、実行時間と収束速度の点で優位性を示す。
• ステップサイズ方針 $ \gamma_t = \Theta(t) $ は、Chambolle & Pock (2016) の $ \sum \gamma_t = \Omega(K^2) $ 方針よりも、実験的に優れた性能を示す。これは、明示的な2次成長のおかげと推定される。