[論文レビュー] Efficient Algorithms for Federated Saddle Point Optimization

Charlie Hou, Kiran Koshy Thekumparampil+2 more|arXiv (Cornell University)|Feb 12, 2021

Stochastic Gradient Optimization Techniques参考文献 26被引用数 9

ひとこと要約

本稿では、非同一データ分布および同一データ分布の両方のクライアント設定において最適な通信複雑性を達成する、最初のフェデレーテッドミニマックス最適化アルゴリズムである SCAFFOLD-Catalyst-S を提案する。SCAFFOLD のクライアントレベルの分散低減と Catalyst の加速フレームワークを組み合わせることで、最悪ケースの非同一性依存性を排除しつつ、高速収束を維持し、任意の非同一性下で Minibatch Mirror-Prox と同等の性能を達成するとともに、実用的に FedAvg-S や SCAFFOLD-S を上回る性能を示す。

ABSTRACT

We consider strongly convex-concave minimax problems in the federated setting, where the communication constraint is the main bottleneck. When clients are arbitrarily heterogeneous, a simple Minibatch Mirror-prox achieves the best performance. As the clients become more homogeneous, using multiple local gradient updates at the clients significantly improves upon Minibatch Mirror-prox by communicating less frequently. Our goal is to design an algorithm that can harness the benefit of similarity in the clients while recovering the Minibatch Mirror-prox performance under arbitrary heterogeneity (up to log factors). We give the first federated minimax optimization algorithm that achieves this goal. The main idea is to combine (i) SCAFFOLD (an algorithm that performs variance reduction across clients for convex optimization) to erase the worst-case dependency on heterogeneity and (ii) Catalyst (a framework for acceleration based on modifying the objective) to accelerate convergence without amplifying client drift. We prove that this algorithm achieves our goal, and include experiments to validate the theory.

研究の動機と目的

• 任意のクライアントデータの非同一性が存在する状況において、収束保証付きのフェデレーテッドミニマックス最適化アルゴリズムの欠如に対処すること。
• 任意の非同一性下で Minibatch Mirror-Prox と同等の通信複雑性を達成しつつ、クライアントが同一の状況下で既存手法を上回るアルゴリズムを設計すること。
• ミニマックス設定において収束保証を維持したまま、分散低減（SCAFFOLD）と加速（Catalyst）を統合すること。
• 強凸・強凹問題における理論的性能と実用的フェデレーテッドミニマックス最適化のギャップを埋めること。

提案手法

• 収束速度におけるクライアント非同一性依存性を排除するため、SCAFFOLD のクライアントレベル分散低減を組み合わせる。
• ミニマックス設定において、クライアントドリフトを増幅させることなく収束を加速するため、Catalyst フレームワークを適用する。
• サドルポイント問題に適した、SCAFFOLD-Catalyst フレームワークの勾配降下・上昇変種を用いる。
• 通信と局所計算のバランスをとるために、確率 $p$ を用いた確率的でランダムな同期戦略を採用する。
• 強い凸性、スムーズネス、クライアント非同一性を用いて期待されるプライマル・デュアルギャップをバインドする、新しい収束解析を導出する。
• 標準的な凸最適化の仮定とは異なる、プライマル・デュアルギャップの非強制性を扱うための新規な解析技術を導入する。

実験結果

リサーチクエスチョン

• RQ1 フェデレーテッドミニマックスアルゴリズムは、任意のクライアント非同一性下で Minibatch Mirror-Prox と同等の通信複雑性を達成できるか？
• RQ2 凸フェデレーテッド最適化から得られる分散低減技術は、ミニマックス問題へ適応可能であり、収束保証を失わずに利用可能か？
• RQ3 Catalyst フレームワークによる加速は、フェデレーテッドミニマックス最適化に適用可能であり、クライアントドリフトを増幅させず、非同一性下でも性能が低下しないか？
• RQ4 同一および非同一のクライアントデータ分布の両方で良好に動作する統合アルゴリズムは存在するか？

主な発見

• SCAFFOLD-Catalyst-S は、任意の非同一性下で Minibatch Mirror-Prox と対数要因を除き同等の通信複雑性 $\min\left\{\frac{\beta}{\mu}, \frac{p\beta^{2}}{\mu^{2}} + \frac{p\sigma^{2}}{n\mu^{2}\epsilon} + \frac{p^{1/2}\beta\sigma}{\mu^{2}\epsilon^{1/2}} + \frac{\beta\zeta}{\mu^{2}\epsilon^{1/2}}\right\}$ を達成する。
• 本アルゴリズムは、クライアントが類似している場合を除き、同様に非同一設定下でも FedAvg-S や SCAFFOLD-S を上回る性能を示す。
• SCAFFOLD と Catalyst の統合により、局所更新が行われてもドリフトが増幅されず、最適な収束が達成される。
• 実験的結果は理論的主張を裏付け、ベースライン手法と比較してより高速な収束と低い通信コストを示している。
• 本解析により、プライマル・デュアルギャップにおける勾配の共強制性の欠如を克服する、フェデレーテッドミニマックス問題のための新しい収束フレームワークが確立された。