[論文レビュー] Personalized Federated Learning with Moreau Envelopes

Canh T. Dinh, Nguyen H. Tran+1 more|arXiv (Cornell University)|Jun 16, 2020

Privacy-Preserving Technologies in Data参考文献 56被引用数 214

ひとこと要約

Moreau envelope を用いて個別モデル最適化とグローバルモデル学習をデカップリングする個別化連合学習アルゴリズム pFedMe を紹介し、FedAvg および Per-FedAvg を上回る最先端の収束速度と局所精度を実現。

ABSTRACT

Federated learning (FL) is a decentralized and privacy-preserving machine learning technique in which a group of clients collaborate with a server to learn a global model without sharing clients' data. One challenge associated with FL is statistical diversity among clients, which restricts the global model from delivering good performance on each client's task. To address this, we propose an algorithm for personalized FL (pFedMe) using Moreau envelopes as clients' regularized loss functions, which help decouple personalized model optimization from the global model learning in a bi-level problem stylized for personalized FL. Theoretically, we show that pFedMe's convergence rate is state-of-the-art: achieving quadratic speedup for strongly convex and sublinear speedup of order 2/3 for smooth nonconvex objectives. Experimentally, we verify that pFedMe excels at empirical performance compared with the vanilla FedAvg and Per-FedAvg, a meta-learning based personalized FL algorithm.

研究の動機と目的

• 個別化を可能にすることで、連合学習におけるクライアント間の非i.i.d.データに対処する。
• グローバルと個別化モデルの更新を分離するために Moreau envelope を用いた二階最適化問題を定式化する。
• 強凸および非凸目的関数に対する収束速度を証明する。
• 実データおよび合成データセット上で pFedMe を FedAvg および Per-FedAvg と経験的に検証する。

提案手法

• F(w)=1/N sum Fi(w) および Fi(w)=min_thetai { fi(theta_i) + (lambda/2) ||theta_i - w||^2 } を満たす二階最適化問題として定式化する。
• Moreau envelope を用いて近接型の個別化更新とグローバルモデルの勾配ベースの外部更新を導出する。
• 各ラウンドで、theta_i(w) を δ近似 tilde_theta_i によって最適化するために R 回の局所ステップを実行し、その後 Fi の w に関する勾配を用いて w を更新する。
• 強凸および滑らかな非凸設定に対する収束解析を提供し、各仮定のもとで二次的および 2/3 のサブ線形加速を確立する。
• MNIST および合成データにおける pFedMe を FedAvg および Per-FedAvg と比較し、ハイパーパラメータ R, K, |D|, lambda, および beta を検討する。

実験結果

リサーチクエスチョン

• RQ1 Moreau envelope をどのように活用して、FL における個別化モデルの最適化とグローバルモデル学習をデカップリングできるか。
• RQ2 強凸および非凸目的の下で pFedMe が達成できる収束速度はどの程度か。
• RQ3 非 i.i.d. 設定において、pFedMe は FedAvg および Per-FedAvg より良い局所（個別化）性能やより高速な収束を提供するか。
• RQ4 ハイパーパラメータ（R, K, |D|, lambda, beta）は性能と収束にどのように影響するか。

主な発見

• pFedMe は最先端の収束速度を達成する：強凸に対して二次的加速、滑らかな非凸目的に対して 2/3 のサブ線形加速。
• 経験的には、MNIST および合成データで pFedMe の個別化モデルが局所精度と収束速度の点で FedAvg および Per-FedAvg を上回る。
• Moreau envelope ベースの定式化は個別化最適化をグローバル学習から効果的にデカップリングし、並列更新を可能にする。
• 内部最小化子のデルタ近似と一階勾配で十分であり、他のメタ学習法のようにヘッセ行列計算を回避できる。
• ハイパーパラメータの調整は、より大きな R が収束を改善する一方で計算量とトレードオフを生じることを示し、適切な lambda は個別化とグローバル整合のバランスを取る。