[論文レビュー] Federated Minimax Optimization: Improved Convergence Analyses and Algorithms

Pranay Sharma, Rohan Panda+2 more|arXiv (Cornell University)|Mar 9, 2022

Stochastic Gradient Optimization Techniques被引用数 6

ひとこと要約

本稿では、非凸・凹および非凸・非凹問題において、通信回数のオーダー最適性とクライアント数に比例する線形スループットを達成する、フェデレーテッドミニマックス最適化のための局所的確率的勾配降下・上昇法（Local SGDA）を提案し、その分析を行う。さらに、収束性を向上させるモーメンタムに基づく変種を導入し、実験的に標準的な局所的SGDAを上回る性能を示した。

ABSTRACT

In this paper, we consider nonconvex minimax optimization, which is gaining prominence in many modern machine learning applications such as GANs. Large-scale edge-based collection of training data in these applications calls for communication-efficient distributed optimization algorithms, such as those used in federated learning, to process the data. In this paper, we analyze Local stochastic gradient descent ascent (SGDA), the local-update version of the SGDA algorithm. SGDA is the core algorithm used in minimax optimization, but it is not well-understood in a distributed setting. We prove that Local SGDA has extit{order-optimal} sample complexity for several classes of nonconvex-concave and nonconvex-nonconcave minimax problems, and also enjoys extit{linear speedup} with respect to the number of clients. We provide a novel and tighter analysis, which improves the convergence and communication guarantees in the existing literature. For nonconvex-PL and nonconvex-one-point-concave functions, we improve the existing complexity results for centralized minimax problems. Furthermore, we propose a momentum-based local-update algorithm, which has the same convergence guarantees, but outperforms Local SGDA as demonstrated in our experiments.

研究の動機と目的

• フェデレーテッドミニマックス最適化におけるローカルアップデート手法の理論的理解の不足に取り組むこと、特に非凸・凹および非凸・非凹設定において。
• フェデレーテッドミニマックス学習における局所的SGDAの収束保証と通信効率を向上させること。
• 分散ミニマックス最適化において、クライアント数に比例する線形スループットを達成する、オーダー最適なサンプル複雑度を実現すること。
• 理論的収束保証を維持しつつ、実験的性能を向上させるモーメンタムに基づくローカルアップデートアルゴリズムを提案・分析すること。
• 既存の結果を改善する、よりタイトな収束解析を提供することにより、特に非凸-PLおよび非凸-one-point-凹仮定下での中央集権的およびフェデレーテッドミニマックス問題の既存結果を改善すること。

提案手法

• クライアントがサーバーと通信する前に複数回の局所的アップデートを実行する分散アルゴリズムとして、局所的SGDAを提案する。
• 更新の安定化と収束性の向上を目的として、再帰的勾配平均化を用いるモーメンタムに基づく局所的SGDAの変種を導入する。
• 非凸・凹、非凸-PL、非凸-one-point-凹関数クラスにおいて、新しい理論的技術を用いて収束性を分析する。
• 非凸-one-point-凹問題に対して、通信複雑度を$\mathcal{O}(\epsilon^{-7})$、確率的勾配複雑度を$\mathcal{O}(n^{-1}\epsilon^{-8})$として確立する。
• proximal関数$\Phi_{1/2L_f}$の勾配の期待ノルムに対するよりタイトなバウンドを導出し、これによりサンプル複雑度が向上することを示す。
• クライアントのドリフトと通信頻度を統一的に扱う分析フレームワークを用いることで、クライアント数に比例する線形スループットを実現する。

実験結果

リサーチクエスチョン

• RQ1 局所的SGDAは、フェデレーテッド非凸・凹ミニマックス最適化において、オーダー最適なサンプル複雑度とクライアント数に比例する線形スループットを達成できるか？
• RQ2 提案されたモーメンタムに基づく局所的SGDAは、標準的な局所的SGDAと比較して、収束性と通信効率をどのように向上させるか？
• RQ3 ローカルアップデート下での非凸-PLおよび非凸-one-point-凹ミニマックス問題に対する改善された収束保証は何か？
• RQ4 既存の中央集権的およびフェデレーテッドミニマックス収束結果を改善するため、理論的解析をどのようにタイトにできるか？
• RQ5 ローカルアップデート頻度とモーメンタムの影響は、フェデレーテッド環境下でのミニマックス最適化の実験的性能にどのような影響を与えるか？

主な発見

• 非凸-one-point-凹問題において、提案された局所的SGDAは通信複雑度$\mathcal{O}(\epsilon^{-7})$および確率的勾配複雑度$\mathcal{O}(n^{-1}\epsilon^{-8})$を達成し、既存の結果を改善した。
• モーメンタムに基づく局所的SGDAの変種は、標準的な局所的SGDAと同等の理論的収束保証を維持しているが、実験的に優れた性能を示した。
• 非凸・凹および非凸・非凹問題において、オーダー最適なサンプル複雑度が確立され、クライアント数に比例する線形スループットが達成された。
• 非凸-PL問題において、$\mathcal{O}(\kappa^3/\epsilon^3)$の通信ラウンドと$\mathcal{O}(\kappa^4/(n\epsilon^4))$の確率的勾配複雑度を達成し、既存の中央集権的結果を改善した。
• 理論的フレームワークにより、proximal関数の期待勾配ノルムに対するよりタイトなバウンドが得られ、収束速度の向上が実現した。
• フェア分類およびロバストなニューラルネットワーク学習に関する実験から、モーメンタムに基づく局所的SGDAが、ロバストなテスト損失と精度の両面で標準的な局所的SGDAを上回ることが確認された。