[論文レビュー] A Communication-efficient Algorithm with Linear Convergence for Federated Minimax Learning

Zhenyu Sun, Ermin Wei|arXiv (Cornell University)|Jun 2, 2022

Stochastic Gradient Optimization Techniques被引用数 4

ひとこと要約

本稿では、勾配追跡を活用することで、定常ステップサイズのもとで線形収束を達成する通信効率の高いフェデレーテッドミニマックス学習アルゴリズム、FedGDA-GTを提案する。通信ラウンド数の時間計算量は、集中型GDAと同等のO(log(1/ε))であり、Local SGDAよりも収束速度と精度で優れる。

ABSTRACT

In this paper, we study a large-scale multi-agent minimax optimization problem, which models many interesting applications in statistical learning and game theory, including Generative Adversarial Networks (GANs). The overall objective is a sum of agents' private local objective functions. We first analyze an important special case, empirical minimax problem, where the overall objective approximates a true population minimax risk by statistical samples. We provide generalization bounds for learning with this objective through Rademacher complexity analysis. Then, we focus on the federated setting, where agents can perform local computation and communicate with a central server. Most existing federated minimax algorithms either require communication per iteration or lack performance guarantees with the exception of Local Stochastic Gradient Descent Ascent (SGDA), a multiple-local-update descent ascent algorithm which guarantees convergence under a diminishing stepsize. By analyzing Local SGDA under the ideal condition of no gradient noise, we show that generally it cannot guarantee exact convergence with constant stepsizes and thus suffers from slow rates of convergence. To tackle this issue, we propose FedGDA-GT, an improved Federated (Fed) Gradient Descent Ascent (GDA) method based on Gradient Tracking (GT). When local objectives are Lipschitz smooth and strongly-convex-strongly-concave, we prove that FedGDA-GT converges linearly with a constant stepsize to global $ε$-approximation solution with $\mathcal{O}(\log (1/ε))$ rounds of communication, which matches the time complexity of centralized GDA method. Finally, we numerically show that FedGDA-GT outperforms Local SGDA.

研究の動機と目的

• フェデレーテッドミニマックス学習における通信効率と収束精度のトレードオフを解消すること。
• 局所的SGDAの限界を克服すること。局所的SGDAは、勾配ノイズのため定常ステップサイズのもとで正確に収束しない。
• 通信ラウンド数を最小限に抑えながら、定常ステップサイズのもとで線形収束を保証する手法を開発すること。
• ラデマッハ複雑度解析を用いて、分散ミニマックス学習の一般化バウンドを導出すること。
• 既存手法（例：Local SGDA）と比較して優れた実験的性能を示すこと。

提案手法

• 勾配追跡（GT）を統合したフェデレーテッド勾配降下上昇（GDA）アルゴリズム、FedGDA-GTを提案し、通信負荷を低減する。
• 勾配追跡を導入して、局所更新間で正確な勾配推定を維持し、定常ステップサイズでの収束を可能にする。
• 局所的な複数ステップ更新と周期的なグローバル集約を組み合わせることで、通信頻度を低減する。
• ラデマッハ複雑度解析を適用し、経験的ミニマックス目的関数の一般化バウンドを導出する。
• 強い凸・強い凹およびリプシッツ滑らかさの仮定の下で、O(log(1/ε))通信ラウンドでε近似解への線形収束を証明する。
• 勾配追跡の理論的分析を活用し、ステップサイズを段階的に小さくしなくても収束安定性を保証する。

実験結果

リサーチクエスチョン

• RQ1 通信ラウンド数を最小限に抑えながら、定常ステップサイズのもとで線形収束を達成できるフェデレーテッドミニマックスアルゴリズムは存在するか？
• RQ2 局所的SGDAは、複数回の局所更新を行っているにもかかわらず、なぜ定常ステップサイズのもとで正確に収束しないのか？
• RQ3 標準的な局所更新スキームと比較して、勾配追跡はフェデレーテッドミニマックス設定でどのように収束を改善するか？
• RQ4 統計的サンプリングのもとで、分散経験的ミニマックス学習の一般化バウンドはどのように確立できるか？
• RQ5 提案手法は、通信効率の観点から、集中型GDAと同等の時間計算量を達成できるか？

主な発見

• FedGDA-GTは、定常ステップサイズのもとでO(log(1/ε))通信ラウンドでε近似解への線形収束を達成する。
• アルゴリズムは集中型GDAと同等の時間計算量を有し、このような問題に対して最適である。
• 数値実験において、FedGDA-GTはLocal SGDAを上回り、より速い収束速度と高い精度を示す。
• 分散ミニマックス学習の一般化バウンドは、N（全サンプル数）に関して同じオーダーO(1/√N)となることが導出された。
• 理論的分析により、局所的SGDAは、持続的な勾配ノイズのため定常ステップサイズのもとで正確な収束を達成できないことが確認された。
• ラデマッハ複雑度解析により、仮説空間のメトリックエントロピーとサンプルサイズに比例する一般化バウンドが得られた。