[論文レビュー] Revisiting Weighted Aggregation in Federated Learning with Neural Networks

Zexi Li, Tao Lin+2 more|arXiv (Cornell University)|Feb 14, 2023

Privacy-Preserving Technologies in Data被引用数 19

ひとこと要約

この論文はフェデレーテッド学習における重み付き集約を再検討し、一般化を改善し得るグローバルなウェイト縮小効果を明らかにし、クライアントの整合性を分析し、グローバルモデルの一般化を高めるための FedLAW（Fed erated Learning with Learnable Aggregation Weights）を提案する。

ABSTRACT

In federated learning (FL), weighted aggregation of local models is conducted to generate a global model, and the aggregation weights are normalized (the sum of weights is 1) and proportional to the local data sizes. In this paper, we revisit the weighted aggregation process and gain new insights into the training dynamics of FL. First, we find that the sum of weights can be smaller than 1, causing global weight shrinking effect (analogous to weight decay) and improving generalization. We explore how the optimal shrinking factor is affected by clients' data heterogeneity and local epochs. Second, we dive into the relative aggregation weights among clients to depict the clients' importance. We develop client coherence to study the learning dynamics and find a critical point that exists. Before entering the critical point, more coherent clients play more essential roles in generalization. Based on the above insights, we propose an effective method for Federated Learning with Learnable Aggregation Weights, named as FedLAW. Extensive experiments verify that our method can improve the generalization of the global model by a large margin on different datasets and models.

研究の動機と目的

• 非標準の (非 1) l1 集約ノルム (gamma) が FL のトレーニングダイナミクスと一般化にどのように影響するかを調査する。
• クライアント間の相対的な集約ウェイト (lambda) を調べ、クライアント整合性を定義する。
• グローバル目的を最適化するためにプロキシデータセット上で集約ウェイトを学習する方法を開発する。
• FedLAW (Federated Learning with Learnable Aggregation Weights) を提案・評価し、異なるデータセット/モデル間での一般化を向上させる。

提案手法

• 集約ウェイトを gamma (ウェイトの l1 ノルム) と lambda (相対ウェイト) に分解して、グローバルな縮小とクライアントの重要性を研究する。
• プロキシデータセット上の勾配降下によって gamma を学習し、正則化係数としての効果（グローバルウェイト縮小）を観察する。
• プロキシデータセット上で lambda を学習してクライアント整合性を捉え、重要な点の前にどのクライアントがより寄与するかを決定する。
• 局所勾配の整合性とヘテロジニティ整合性を定義・測定して、トレーニングダイナミクスを理解する。
• プロキシデータセット上で最適な lambda を学習させるための Attentive LAW を導入し、gamma は固定または調整して、クライアント参加ウェイトを導く。
• FedLAW アルゴリズムを提案し、まず局所クライアントを更新し、次にプロキシデータセット上で集約ウェイトを最適化し、学習済みウェイトを集約に適用する。

実験結果

リサーチクエスチョン

• RQ1 gamma < 1 を使用した場合が FL の一般化とトレーニングダイナミクスに与える影響は何か。
• RQ2 相対的なクライアントウェイト lambda が、クライアント整合性を通じてトレーニングダイナミクスと一般化にどのような影響を与えるか。
• RQ3 プロキシデータセット上で学習可能な集約ウェイトは IID および Non-IID 設定を超えてグローバルモデルの性能を向上させることができるか。
• RQ4 グローバルウェイト縮小とクライアント整合性は、局所エポック数とデータヘテロogeneity とどう相互作用するか。
• RQ5 FedLAW は小さなまたはシフトしたプロキシデータセットや汚染されたクライアントに対して頑健か。

主な発見

• グローバルウェイト縮小 (gamma < 1) は一般化を改善でき、最適な gamma は正則化と最適化のバランスを取る。
• グローバル勾配のノルムが最適な縮小因子を支配する；より大きなグローバル勾配にはより強い正則化が必要。
• 局所勾配整合性に臨界点が存在する；この点以前は、より整合的なクライアントが一般化により寄与することが多く、特にデータが平衡しているクライアントで顕著。
• Attentive LAW は、前半ラウンドでより整合的または平衡なクライアントを優先する集約ウェイトを学習し、初期の一般化とヘテロジニティ整合性を改善する。
• 適応的グローバルウェイト縮小（適応的 GWS）は、臨界点を過ぎても正の局所勾配整合性を維持し、FedAvg よりさらなる利益を生む。
• FedLAW は CIFAR-10/100 および FashionMNIST のさまざまなモデルで一般化を大幅に改善し、プロキシデータセットのシフトや汚染クライアントに対しても頑健性を示す。