[论文解读] Federated Learning via Posterior Averaging: A New Perspective and Practical Algorithms

Maruan Al-Shedivat, Jennifer Gillenwater+2 more|arXiv (Cornell University)|Oct 11, 2020

Privacy-Preserving Technologies in Data参考文献 47被引用 38

一句话总结

本文将联邦学习重新框架为全局后验推断，通过聚合局部后验来实现，并介绍 FEDPA，一种实用算法，能够泛化 FEDAVG，在若干基准数据集上达到最先进的结果。

ABSTRACT

Federated learning is typically approached as an optimization problem, where the goal is to minimize a global loss function by distributing computation across client devices that possess local data and specify different parts of the global objective. We present an alternative perspective and formulate federated learning as a posterior inference problem, where the goal is to infer a global posterior distribution by having client devices each infer the posterior of their local data. While exact inference is often intractable, this perspective provides a principled way to search for global optima in federated settings. Further, starting with the analysis of federated quadratic objectives, we develop a computation- and communication-efficient approximate posterior inference algorithm -- federated posterior averaging (FedPA). Our algorithm uses MCMC for approximate inference of local posteriors on the clients and efficiently communicates their statistics to the server, where the latter uses them to refine a global estimate of the posterior mode. Finally, we show that FedPA generalizes federated averaging (FedAvg), can similarly benefit from adaptive optimizers, and yields state-of-the-art results on four realistic and challenging benchmarks, converging faster, to better optima.

研究动机与目标

• 提出一种概率视角，将全球模型视为从局部后验得到的后验模式。
• 开发一个计算和通信高效的 FEDPA 算法，适用于无状态客户端。
• 显示 FEDPA 如何泛化 FEDAVG，并解释在局部后验估计下的收敛性/偏差-方差权衡。
• 在现实的 FL 基准测试（涵盖视觉与语言任务）中展示最先进性能。

提出的方法

• 将 FL 形式化为全局后验推断问题，其中全局后验分解为局部后验的乘积（命题1）。
• 推导一个实用算法（FEDPA），在客户端使用局部后验采样，在服务器端优化以找到全局后验模式（式3和4）。
• 通过 SG-MCMC（IASG）在客户端实现局部后验推断，以获得局部均值和协方差（µi, Σi）的估计。
• 使用线性时间、内存高效方案计算客户端增量（∆i = Σi^{-1}(θ − µi)），并采用收缩协方差估计器使每轮成本达到 O(d)（定理3）。
• 显示 FEDAVG 是 FEDPA 的特例，当协方差为单位矩阵时，解释在局部更新方案中观察到的停滞和偏差。

实验结果

研究问题

• RQ1 联邦学习是否可以有效地被构造为全局后验推断，而不仅仅是优化？
• RQ2 如何设计一个实用高效的 FEDPA 算法，使无状态客户端在模型维度上具有线性成本？
• RQ3 使用局部后验信息（均值和协方差）对收敛性、偏差和最终最优解相比于 FEDAVG 有何影响？
• RQ4 基于后验的方法是否在现实 FL 基准上实现更快的收敛和更好的最优解？

主要发现

• FEDPA 通过利用局部后验信息，在多个基准上比 FEDAVG 收敛更快、达到更优的最优解。
• FEDAVG 具有大量本地步骤时相当于协方差为单位矩阵的 FEDPA，会引入偏差和停滞；FEDPA 通过协方差信息更新进行缓解。
• 在客户端使用基于 IASG 的后验采样和收缩协方差估计，使每轮通信和服务端计算均为 O(d)，可扩展到高维模型。
• 在 EMNIST-62 和 CIFAR-100 上，FEDPA-ME 达到更高的最终准确率，并以更少轮次达到目标精度，比强基线更优。
• 在 StackOverflow 任务上，FEDPA-ME 提升宏 F1 和微 F1，并在精确率/召回率等指标上与基线相当。