[論文レビュー] AsyncFedED: Asynchronous Federated Learning with Euclidean Distance based Adaptive Weight Aggregation

Qiyuan Wang, Qianqian Yang+3 more|arXiv (Cornell University)|May 27, 2022

Privacy-Preserving Technologies in Data被引用数 14

ひとこと要約

本稿では、古くなったモデルと現在のグローバルモデルの間のユークリッド距離を用いて、クライアントの更新を適応的に重み付けする非同期フェデレーテッドラーニングフレームワーク、AsyncFedEDを提案する。古さとモデルドリフトに基づいて動的にグローバル学習率とローカルエポック数を調整することで、非IIDかつ非均質な環境でも従来手法を上回る収束性と精度を実現し、理論的な収束保証を有する。

ABSTRACT

In an asynchronous federated learning framework, the server updates the global model once it receives an update from a client instead of waiting for all the updates to arrive as in the synchronous setting. This allows heterogeneous devices with varied computing power to train the local models without pausing, thereby speeding up the training process. However, it introduces the stale model problem, where the newly arrived update was calculated based on a set of stale weights that are older than the current global model, which may hurt the convergence of the model. In this paper, we present an asynchronous federated learning framework with a proposed adaptive weight aggregation algorithm, referred to as AsyncFedED. To the best of our knowledge this aggregation method is the first to take the staleness of the arrived gradients, measured by the Euclidean distance between the stale model and the current global model, and the number of local epochs that have been performed, into account. Assuming general non-convex loss functions, we prove the convergence of the proposed method theoretically. Numerical results validate the effectiveness of the proposed AsyncFedED in terms of the convergence rate and model accuracy compared to the existing methods for three considered tasks.

研究の動機と目的

• 古くなったクライアントの更新が収束性を低下させる非同期フェデレーテッドラーニングにおける古さ問題に対処する。
• イテレーションの遅延や学習時間に基づく従来の古さ指標には、有用な更新を無視する欠陥があるため、それを克服する。
• ユークリッド距離によるモデルドリフトとローカルトレーニングの進行状況（エポック数）の両方を考慮した適応的集約スキームを開発する。
• 一般の非凸損失関数において理論的収束性を保証しつつ、動的環境におけるスケーラビリティと柔軟性を維持する。
• トレーニング速度とモデル精度を最適化するために、ローカルエポック数とグローバル学習率を動的に調整可能にする。

提案手法

• クライアントから受信した古くなったモデルと現在のグローバルモデルとの間のユークリッド距離を用いた、新たな古さ評価指標を提案する。
• 古さに基づいて各クライアント更新のための適応的グローバル学習率 $\eta_{g,i}$ を設計する。古さは $\gamma(i,\tau) = \|x_t - x_{t-\tau}\|_2$ として定義される。
• 動的ローカルエポック調整ルール $K_{i,n+1} = K_{i,n} + \left\lfloor (\bar{\gamma} - \gamma(i,\tau)) \cdot \kappa \right\rfloor$ を導入し、古くない更新に対してはトレーニングの深さを増す。
• 学習率とエポックの適応を制御するためのハイパーパramータチューニング戦略を用い、$\lambda$, $\varepsilon$, $\bar{\gamma}$, および $\kappa$ を用いる。
• クライアントがモーメンタム最適化子を用いてローカルにトレーニングし、サーバーに疑似勾配を送信する、サーバー・クライアントアーキテクチャでアルゴリズムを実装する。
• 有界な勾配とリプシッツ連続性の仮定の下で、一般の非凸損失関数において収束を証明することで理論的収束性を保証する。

実験結果

リサーチクエスチョン

• RQ1 古くなったモデルと現在のグローバルモデルの間のユークリッド距離に基づく古さ指標は、非同期フェデレーテッドラーニングにおけるモデル収束性を向上させるか？
• RQ2 モデルドリフトとローカルトレーニング進行状況に基づく適応的学習率スケジューリングは、収束速度と最終的な精度を向上させるか？
• RQ3 動的ローカルエポック調整により、遅延するクライアントからの有用な更新を無視せずに、トレーニングの安定性を維持できるか？
• RQ4 非IIDおよび非均質なデータ環境下で、従来の非同期フェデレーテッドラーニングベースラインと比較して、本手法はどのように性能を発揮するか？
• RQ5 有界な勾配を伴う一般の非凸損失関数において、AsyncFedEDの理論的収束保証は有効か？

主な発見

• AsyncFedEDは、Synthetic-1-1、FEMNIST、Shakespeareテキストデータの3つのベンチマークタスクにおいて、FedAsync、FedAvg、FedAsync+Hingeよりも高速な収束と高い最終的なモデル精度を達成した。
• FEMNISTでは、100回の通信ラウンド後にAsyncFedEDのテスト精度は92.1%に達し、FedAsync（89.7%）とFedAvg（88.3%）を上回った。
• Shakespeareテキスト生成タスクでは、AsyncFedEDのテストロスは1.82にまで低下し、FedAsync（2.01）とFedAvg（2.15）を顕著に下回り、より良い一般化性能を示した。
• ユークリッド距離で測定した古さに基づいて、極めて古くなったモデルに低い重みを割り当てることで、古くなった更新の悪影響を効果的に低減したが、それらを破棄はしなかった。
• ハイパーパramータチューニングの結果、ほとんどのタスクにおいて $\bar{\gamma} = 3$ および $\kappa = 1$ が最適であった。Synthetic-1-1では $\lambda/\varepsilon = 1$、Shakespeareでは $\lambda/\varepsilon = 0.5$ が最適であった。
• 理論的分析により、有界な勾配とリプシッツ連続性の仮定の下で、一般の非凸設定においても、静的点への収束が保証された。