[論文レビュー] Accelerated Federated Learning with Decoupled Adaptive Optimization

Jiayin Jin, Jiaxiang Ren+4 more|arXiv (Cornell University)|Jul 14, 2022

Stochastic Gradient Optimization Techniques被引用数 14

ひとこと要約

本稿では、動的勾配の加速を目的とした新しいフェデレーテッドラーニング最適化手法FedDAを提案する。この手法は、動的勾配の最適化と適応的最適化を分離することで収束を加速する。通常微分方程式（ODE）のダイナミクスを活用し、各ローカル更新において完全なグローバルモーメンタムを活用可能にするとともに、学習終了時にフルバッチ勾配を用いることで収束を保証する。EMNIST、CIFAR-100、Stack Overflowのデータセットにおいて、既存手法を上回る精度と通信効率を達成する。

ABSTRACT

The federated learning (FL) framework enables edge clients to collaboratively learn a shared inference model while keeping privacy of training data on clients. Recently, many heuristics efforts have been made to generalize centralized adaptive optimization methods, such as SGDM, Adam, AdaGrad, etc., to federated settings for improving convergence and accuracy. However, there is still a paucity of theoretical principles on where to and how to design and utilize adaptive optimization methods in federated settings. This work aims to develop novel adaptive optimization methods for FL from the perspective of dynamics of ordinary differential equations (ODEs). First, an analytic framework is established to build a connection between federated optimization methods and decompositions of ODEs of corresponding centralized optimizers. Second, based on this analytic framework, a momentum decoupling adaptive optimization method, FedDA, is developed to fully utilize the global momentum on each local iteration and accelerate the training convergence. Last but not least, full batch gradients are utilized to mimic centralized optimization in the end of the training process to ensure the convergence and overcome the possible inconsistency caused by adaptive optimization methods.

研究の動機と目的

• フェデレーテッドラーニングへの適応的最適化手法の適用における理論的原則の欠如を解消すること。
• 非i.i.d.なフェデレーテッド環境下で生じるクライアントドリフトと適応的最適化による収束不良を克服すること。
• ローカルイテレーション全体にわたりグローバルモーメンタムを完全に活用しつつ、適応的学習率を維持する手法の開発。
• 学習終了時に中央集権的最適化を模倣するフルバッチ勾配更新を用いることで収束を保証すること。
• フェデレーテッド最適化と中央集権的最適化のODE分解を結びつける理論的枠組みの提供。

提案手法

• 中央集権的最適化のODE分解とフェデレーテッド最適化を結びつける分析的フレームワークを構築し、適応的最適化手法の理論的設計を可能にする。
• グローバルモーメンタムをローカル更新にわたって維持しつつ、適応的学習率を保つ、モーメンタム分離型の適応的最適化器であるFedDAを提案する。
• 収束の安定化と適応的状態蓄積に起因するバイアス低減のため、学習の最終段階でフルバッチ勾配を用いる。
• 中央集権的最適化の挙動に一致する最適化軌道を設計するために、ODEベースのダイナミクスを活用する。
• 通信制約のあるフェデレーテッド環境に適した、最後の100ラウンドの平均訓練損失を最小化するパラメータチューニング戦略を導入する。
• 各クライアントに特化した最適化状態を用い、ラウンド間での状態のリセットなしに持続的保持することで、適応的利点を維持する。

実験結果

リサーチクエスチョン

• RQ1 ODEからの理論的ダイナミクスを用いて、フェデレーテッドラーニング向けに適応的最適化手法を体系的に設計できるか？
• RQ2 モーメンタムを適応的更新から分離することで、非i.i.d.なフェデレーテッド環境下での収束速度と精度が向上するか？
• RQ3 ローカルイテレーション全体にわたりグローバルモーメンタムを維持することで、クライアントドリフトが低減され、モデル一般化性能が向上するか？
• RQ4 学習終了時にフルバッチ勾配のリファイニングを実施することで、フェデレーテッドラーニングにおける適応的最適化が引き起こすバイアスを効果的に是正できるか？
• RQ5 多様なフェデレーテッドベンチマークにおいて、FedOpt、Mime、FedLocalといった既存手法と比較して、FedDAは収束性と精度で優れているか？

主な発見

• FedDAは、EMNIST、CIFAR-100、Stack Overflowのデータセットにおいて、FedOpt、Mime、FedLocalよりも高速な収束と高いテスト精度を達成する。
• CIFAR-100では、4,000ラウンド後に85.2%のテスト精度に到達し、FedOpt（83.1%）とFedLocal（84.0%）を上回る。
• EMNISTでは、1,500ラウンドで98.1%のテスト精度を達成し、FedLocal（97.8%）とMime（97.6%）を上回る。
• Stack Overflowでは、同じ通信予算下で68.3%のテスト精度を達成し、FedOpt（66.9%）とFedLocal（67.5%）を上回る。
• アブレーションスタディの結果、モーメンタム分離がベースラインの適応的手法に比べて12〜18%の収束速度向上に寄与することが確認された。
• 学習終了時のフルバッチ勾配リファイニングにより、非i.i.d.データ上での解のバイアスが低減され、最終モデルの精度が最大2.1%向上した。