[論文レビュー] Personalized Federated Learning: A Meta-Learning Approach

Alireza Fallah, Aryan Mokhtari+1 more|arXiv (Cornell University)|Feb 19, 2020

Privacy-Preserving Technologies in Data参考文献 44被引用数 363

ひとこと要約

この論文は Per-FedAvg を提案する。MAML に触発された個別化フェデレーテッドラーニング法で、各ユーザーのローカルデータへ迅速に適応する初期化を学習し、非凸 loss における収束保証を提供する。

ABSTRACT

In Federated Learning, we aim to train models across multiple computing units (users), while users can only communicate with a common central server, without exchanging their data samples. This mechanism exploits the computational power of all users and allows users to obtain a richer model as their models are trained over a larger set of data points. However, this scheme only develops a common output for all the users, and, therefore, it does not adapt the model to each user. This is an important missing feature, especially given the heterogeneity of the underlying data distribution for various users. In this paper, we study a personalized variant of the federated learning in which our goal is to find an initial shared model that current or new users can easily adapt to their local dataset by performing one or a few steps of gradient descent with respect to their own data. This approach keeps all the benefits of the federated learning architecture, and, by structure, leads to a more personalized model for each user. We show this problem can be studied within the Model-Agnostic Meta-Learning (MAML) framework. Inspired by this connection, we study a personalized variant of the well-known Federated Averaging algorithm and evaluate its performance in terms of gradient norm for non-convex loss functions. Further, we characterize how this performance is affected by the closeness of underlying distributions of user data, measured in terms of distribution distances such as Total Variation and 1-Wasserstein metric.

研究の動機と目的

• フェデレーテッドラーニングにおけるデータヘテロ性を解決するため、ユーザー固有の適応を可能にする。
• モデル非依存メタ学習（MAML）のアイデアをフェデレーテッドアベレージングに適用して個人化モデルを得る。
• Per-FedAvg を開発し、非凸 loss の収束性を分析する。
• TV や Wasserstein 指標を通じて、ユーザー間の分布差が性能に与える影響を特徴づける。

提案手法

• MAML に触発された F(w)= (1/n) sum_i f_i(w - α ∇f_i(w)) を最小化することで個別化FLを定式化する。
• FedAvg に似たアルゴリズム Per-FedAvg を導入し、ローカル更新が F_i(w) = f_i(w − α ∇f_i(w)) を最適化する。
• ローカル更新を実行するために勾配とヘッセ行列の unbiased な推定を用いる。
• 滑らかさと勾配/ヘッセ推定のバイアス・分散を分析して収束を確立する。
• パラメータ選択（τ, K, β）とデータの類似性（γ_G, γ_H）および分布距離が性能に与える影響についての指針を提供する。

実験結果

リサーチクエスチョン

• RQ1 共有初期化を学習することで、数回のローカル勾配ステップで異種のユーザーに強い個別化をもたらすことができるか？
• RQ2 分布距離（TV, Wasserstein）で測られるデータヘテロゲネシティが、個別化FLアルゴリズムの収束と性能にどのように影響するか？
• RQ3 非凸目的関数と確率勾配の下で Per-FedAvg の収束保証は？
• RQ4 ε-近似の1次局所停止点を達成するために、 meta-ステップ α、ローカル更新 τ、通信ラウンド K はどのように選択すべきか？

主な発見

• Per-FedAvg はヘッセ行列を考慮した更新を用いると、異質な設定で標準の FedAvg より優れている。
• 収束分析は、異質性と分布の近さ（γ_G, γ_H）が非凸目的の場合のレートにどのように影響するかを定量化する。
• 適切なパラメータで、Per-FedAvg は ε-近似の1次停止点を、通信ラウンド K = O(ε^(-3/2))、ローカル更新τ = O(ε^(-1/2)) で達成する。
• HF-MAML 変種（2階微分対応）は、異質データシナリオでは一般に FO-MAML（1次）より良い性能を示す。
• MNIST と CIFAR-10 の数値実験では、Per-FedAvg（HF）は FedAvg を一貫して上回り、多様なデータセットでより大きな利得を示す。