[論文レビュー] Personalized Federated Learning with First Order Model Optimization

Michael Zhang, Karan Sapra+3 more|arXiv (Cornell University)|Dec 15, 2020

Privacy-Preserving Technologies in Data参考文献 29被引用数 26

ひとこと要約

この論文では、非IID設定におけるクライアント固有のターゲットデータ分布にうまく適合できるように、クライアントが他のクライアントのモデルを1次最適化を用いて動的に組み合わせることを可能にする、パーソナライズドフェデレーテッドラーニングフレームワークであるFedFomoを提案する。パーソナライズド目的におけるパフォーマンスに基づいてクライアント固有の重み付きモデル結合を計算することにより、FedFomoは非IID設定でベースラインと比較して最大70%高い精度を達成し、微分プライバシー下でも高い性能を維持する。

ABSTRACT

While federated learning traditionally aims to train a single global model across decentralized local datasets, one model may not always be ideal for all participating clients. Here we propose an alternative, where each client only federates with other relevant clients to obtain a stronger model per client-specific objectives. To achieve this personalization, rather than computing a single model average with constant weights for the entire federation as in traditional FL, we efficiently calculate optimal weighted model combinations for each client, based on figuring out how much a client can benefit from another's model. We do not assume knowledge of any underlying data distributions or client similarities, and allow each client to optimize for arbitrary target distributions of interest, enabling greater flexibility for personalization. We evaluate and characterize our method on a variety of federated settings, datasets, and degrees of local data heterogeneity. Our method outperforms existing alternatives, while also enabling new features for personalized FL such as transfer outside of local data distributions.

研究の動機と目的

• クライアント間で多様な固有のニーズを満たせない単一のグローバルモデルの限界を解消すること。
• 生データを共有することなく、ローカルトレーニングデータに含まれないターゲットデータ分布に対しても、クライアントが任意の分布を最適化できるようにすること。
• グローバルモデルの平均化やデータ類似性の仮定に依存しない、効率的でスケーラブルなパーソナライズドフェデレーテッドアップデート手法を開発すること。
• 微分プライバシー下でのパーソナライズドラーニングのロバスト性を評価し、パーソナライズド性能を損なわずにプライバシー保証を確保すること。

提案手法

• FedFomoは、各クライアントのパーソナライズドターゲット分布におけるパフォーマンスに基づいて、アップロードされたモデルのクライアント固有の重み付き組み合わせを計算し、従来のグローバル平均化に代わる。
• 1次モデル最適化を用いてパーソナライズド勾配ステップを近似することで、他のクライアントのデータに直接アクセスせずに、効率的かつスケーラブルなアップデートを可能にする。
• 各クライアントは、自らのターゲットタスク上で他のモデルのパフォーマンスを評価し、その特定の目的でより良いパフォーマンスを示すモデルに高い重みを割り当てる。
• 2段階のフェデレーテッドアップデートを実行する：(1) クライアント固有の目的におけるモデルパフォーマンスの評価、(2) 1次近似を用いた最適な重み付き組み合わせの計算。
• 各ラウンドでクライアントごとに個別のモデルパラメータを保持し、各クライアントのターゲット分布に最も関連性があるモデルのみを条件付きで組み込むことを可能にする。
• FedFomoは微分プライバシーと互換性があり、局所トレーニング中に制御されたガウスノイズを追加するDP-SGDを用いるが、パーソナライズドパフォーマンスを損なわない。

実験結果

リサーチクエスチョン

• RQ1 クライアント間でデータ類似性や共有分布を仮定しないフェデレーテッドラーニングフレームワークは、パーソナライズド性能を十分に達成できるか？
• RQ2 生データにアクセスせずに、他のクライアントのモデルパラメータのみを用いて、クライアントが効率的にパーソナライズドモデルアップデートを計算できるか？
• RQ3 パーソナライズドフェデレーテッドラーニングは、ローカルトレーニングデータと一致しない分布外のターゲットタスクを最適化するために拡張可能か？
• RQ4 提案手法は微分プライバシー下でどのように動作するか？また、強力なプライバシー保証を確保しながらも、高い精度を維持できるか？

主な発見

• FedFomoは非IIDフェデレーテッド画像分類設定で、ベースライン手法と比較して最大70%高い精度を達成し、データの不均一性が高くなるほどその差が顕著になる。
• CIFAR-10では、非プライベート設定下で71.56%の精度に達し、FedAvgの19.37%を大きく上回る。
• σ=1の微分プライバシー下でも、CIFAR-10で71.28%の精度を維持し、ε=6.89を達成しており、プライバシーとパフォーマンスのトレードオフが良好であることが示された。
• 高いノイズ（σ=2）でも、CIFAR-10で65.97%の精度を維持し、プライバシー保護アップデートに対して強い耐性を示した。
• FedFomoは、潜在的なローカルデータ分布を効果的に特定し、各クライアントのターゲット目的と最も一致するデータで訓練されたモデルを優遇する。
• 本手法は、従来の類似性ベースのパーソナライズド手法では対応できない、分布外のパフォーマンス最適化を可能にする。