[論文レビュー] Federated Learning via Posterior Averaging: A New Perspective and Practical Algorithms

Maruan Al-Shedivat, Jennifer Gillenwater+2 more|arXiv (Cornell University)|Oct 11, 2020

Privacy-Preserving Technologies in Data参考文献 47被引用数 38

ひとこと要約

この論文は連邦学習を局所ポスターリオリの集約によるグローバル事後推定として再定義し、FEDPAという実用的なアルゴリズムを導入する。FEDAVGを一般化し、いくつかのベンチマークで最先端の結果を達成。

ABSTRACT

Federated learning is typically approached as an optimization problem, where the goal is to minimize a global loss function by distributing computation across client devices that possess local data and specify different parts of the global objective. We present an alternative perspective and formulate federated learning as a posterior inference problem, where the goal is to infer a global posterior distribution by having client devices each infer the posterior of their local data. While exact inference is often intractable, this perspective provides a principled way to search for global optima in federated settings. Further, starting with the analysis of federated quadratic objectives, we develop a computation- and communication-efficient approximate posterior inference algorithm -- federated posterior averaging (FedPA). Our algorithm uses MCMC for approximate inference of local posteriors on the clients and efficiently communicates their statistics to the server, where the latter uses them to refine a global estimate of the posterior mode. Finally, we show that FedPA generalizes federated averaging (FedAvg), can similarly benefit from adaptive optimizers, and yields state-of-the-art results on four realistic and challenging benchmarks, converging faster, to better optima.

研究の動機と目的

• グローバルモデルを局所ポスターリオから得られるポストモードとして捉えることで、連邦学習に確率論的な視点を提案する。
• 状態を持たないクライアントでも動作する、計算量・通信量効率の良いFEDPAアルゴリズムを開発する。
• FEDPAがFEDAVGを一般化することを示し、局所ポスター推定の下での収束性/バイアス-分散トレードオフを説明する。
• 視覚と言語タスクにまたがる実世界のFLベンチマークで最先端の性能を示す。

提案手法

• FLを、グローバルポスターリオが局所ポスターリオの積に分解されるグローバルポスター推定問題として定式化する（命題1）。
• 局所ポスターリオ推定をクライアントで行い、サーバー側の最適化と組み合わせてグローバルポスターのモードを見つける実用アルゴリズム（FEDPA）を導出する（式3および式4）。
• クライアント上での局所ポスター推定をSG-MCMC（IASG）を用いて実装し、局所平均と共分散（µi、Σi）の推定を得る。
• Σi^{-1}(θ − µi)による線形時間・低メモリのクライアントデルタ計算を実装し、収束率をO(d)コストで得るための縮小共分散推定量を用いる（定理3）。
• FEDAVGが共分散が恒等行列の場合のFEDPAの特殊ケースであることを示し、局所更新スキームにおける停滞とバイアスを説明する。

実験結果

リサーチクエスチョン

• RQ1 連邦学習を純粋な最適化ではなく、グローバルポスター推定として効果的に定義できるか？
• RQ2 statelessクライアントに対して、モデル次元数に線形コストで動作する実用的に効率的なFEDPAアルゴリズムを設計できるか？
• RQ3 局所ポスター情報（平均と共分散）を用いることが、収束・バイアス・最適解に及ぼす影響はFEDAVGと比較してどうか？
• RQ4 ポスターリオベースの手法は現実的なFLベンチマークでより速い収束とより良い最適解を達成するか？

主な発見

• FEDPAは局所ポスター情報を活用することで、複数のベンチマークでFEDAVGより高速に収束し、より良い最適解を達成する。
• FEDAVGを多くのローカルステップと共分散の恒等行列で実行すると、バイアスや停滞が生じるのに対し、FEDPAは共分散情報を用いた更新でこれを緩和する。
• クライアントでのIASGに基づくポスタ選択と縮小共分散推定量を用いると、各ラウンドの通信をO(d)、サーバー計算をO(d)に抑え、高次元モデルへスケール可能。
• EMNIST-62とCIFAR-100で、FEDPA-MEは最終精度が高く、目標精度に到達するラウンド数が少ない。
• StackOverflowタスクでは、FEDPA-MEはマクロF1・ミクロF1を改善し、ベースラインと比較して精度/再現率指標で競争力を持つ。