[論文レビュー] Decentralized Distributed Optimization for Saddle Point Problems

Alexander Rogozin, Aleksandr Beznosikov+4 more|arXiv (Cornell University)|Feb 15, 2021

Optimization and Variational Analysis参考文献 41被引用数 10

ひとこと要約

本稿は、局所変数とグローバル変数を伴う滑らかで凸-凹なサドルポイント問題に対して、最適な $O(\varepsilon^{-1})$ の通信量およびオракル複雑度を達成する分散型ミラー・プロックス（Mirror-Prox）アルゴリズムを提案する。非ユークリッド型の近似設定（例えば、エントロピー型）をサポートし、下界と一致することで、精度 $\varepsilon$ およびネットワークの条件数 $\chi$ の観点から最適性が証明される。応用例として、ワッサーシュタイン重心の計算が挙げられる。

ABSTRACT

We consider distributed convex-concave saddle point problems over arbitrary connected undirected networks and propose a decentralized distributed algorithm for their solution. The local functions distributed across the nodes are assumed to have global and local groups of variables. For the proposed algorithm we prove non-asymptotic convergence rate estimates with explicit dependence on the network characteristics. To supplement the convergence rate analysis, we propose lower bounds for strongly-convex-strongly-concave and convex-concave saddle-point problems over arbitrary connected undirected networks. We illustrate the considered problem setting by a particular application to distributed calculation of non-regularized Wasserstein barycenters.

研究の動機と目的

• 局所変数とグローバル変数を伴う非強い凸-凹なサドルポイント問題に対する最適な分散アルゴリズムの欠如に対処する。
• 分散環境下で、通信量およびオラクル複雑度の両面で最適な性能を達成する手法を開発する。
• 非ユークリッド型の近似設定（例：エントロピー型）を可能にし、柔軟性と適用範囲を向上させる。
• 通信量およびオラクルコールの下界と一致させることで、最適性を実証する。
• 正則化に基づくアプローチに起因する不安定性を克服するため、ワッサーシュタイン重心問題にアルゴリズムを適用する。

提案手法

• 分散ネットワーク内のノード間で一貫性を確保するため、ラグランジュ乗数を用いてサドルポイント問題を定式化する。
• 一般化された近似設定（エントロピー正則化など、非ユークリッド型も含む）を備えた分散型ミラー・プロックスアルゴリズムの変種を導入する。
• チェビシェフ加速を適用して、通信量とオラクル複雑度の依存関係を分離し、条件数 $\chi$ への依存を改善する。
• オラクルコールと通信ラウンドのトレードオフを管理するため、スライディング型手順を用いる。
• 双対変数を用いて一貫性制約を統合し、双対空間における勾配ステップでそれらを更新する。
• 再帰的不等式と適応的ステップサイズを用いて、双対ギャップおよび一貫性誤差をバインドすることで収束を保証する。

実験結果

リサーチクエスチョン

• RQ1 凸-凹なサドルポイント問題に対する分散アルゴリズムは、最適な $O(\varepsilon^{-1})$ の通信量およびオラクル複雑度を達成できるか？
• RQ2 一般化された近似設定を備えた分散環境下でも、ミラー・プロックスアルゴリズムは最適性を保つのか？
• RQ3 非ユークリッド型の近似設定（例：エントロピー型）は、分散型サドルポイント最適化において効果的に利用可能か？
• RQ4 提案手法は、正則化に基づくアプローチと比較して、ワッサーシュタイン重心問題においてどのように性能を発揮するか？
• RQ5 アルゴリズムの複雑度は、ネットワークの条件数 $\chi$ にどのように依存するか？

主な発見

• 提案手法は、$O(\varepsilon^{-1})$ の通信量およびオラクル複雑度を達成し、分散型凸-凹なサドルポイント問題における既知の下界と一致する。
• 目的の精度 $\varepsilon$ および通信ネットワークの条件数 $\chi$ に対する依存関係において、本手法は最適性を有する。
• エントロピー正則化など、非ユークリッド型の近似設定をサポートしており、ワッサーシュタイン重心問題の双線形サドルポイント再定式化において自然に現れる。
• 数値実験の結果、正則化に基づくアプローチと比較して、分散型ミラー・プロックスアルゴリズムは真のワッサーシュタイン重心をより良い近似で得られ、特に正則化パラメータが小さい場合に顕著である。
• 収束解析により、双対ギャップおよび一貫性誤差の収束速度が $O(1/N)$ であることが示され、$\varepsilon$-精度に到達するための反復回数 $N$ に対する明示的なバインドが得られた。
• オラクルコールの複雑度は、$\mathcal{O}\left(\left(1 + \frac{L_B}{\mu_g}\right)\log\frac{1}{\delta}\log\frac{\|\zeta^0 - \zeta^*\|_2^2}{\varepsilon}\right)$ で有界であり、$L_B$ および $\mu_g$ はそれぞれ滑らかさおよび強凸性のパラメータを表す。