[论文解读] Minimax Estimation for Personalized Federated Learning: An Alternative between FedAvg and Local Training?

Shuxiao Chen, Qinqing Zheng+2 more|arXiv (Cornell University)|Mar 2, 2021

Privacy-Preserving Technologies in Data参考文献 70被引用 11

一句话总结

本文提出一种极小化极大框架，用于分析数据异质性下的个性化联邦学习，揭示了一个二选一定理：当数据异质性较低时，FedAvg 是极小化极大最优的；当异质性较高时，纯本地训练是最优的。关键洞见是，个性化可简化为在两种基线算法之间进行二元选择，该选择由异质性阈值决定。

ABSTRACT

A widely recognized difficulty in federated learning arises from the statistical heterogeneity among clients: local datasets often originate from distinct yet not entirely unrelated probability distributions, and personalization is, therefore, necessary to achieve optimal results from each individual's perspective. In this paper, we show how the excess risks of personalized federated learning using a smooth, strongly convex loss depend on data heterogeneity from a minimax point of view, with a focus on the FedAvg algorithm (McMahan et al., 2017) and pure local training (i.e., clients solve empirical risk minimization problems on their local datasets without any communication). Our main result reveals an approximate alternative between these two baseline algorithms for federated learning: the former algorithm is minimax rate optimal over a collection of instances when data heterogeneity is small, whereas the latter is minimax rate optimal when data heterogeneity is large, and the threshold is sharp up to a constant. As an implication, our results show that from a worst-case point of view, a dichotomous strategy that makes a choice between the two baseline algorithms is rate-optimal. Another implication is that the popular FedAvg following by local fine tuning strategy is also minimax optimal under additional regularity conditions. Our analysis relies on a new notion of algorithmic stability that takes into account the nature of federated learning.

研究动机与目标

• 为解决联邦学习中客户端数据分布显著不同的统计异质性挑战。
• 确定在平滑、强凸损失下，FedAvg 或本地训练在个性化模型中何时为极小化极大最优。
• 建立一个理论阈值，以区分通信（FedAvg）或本地优化（无通信）最优的区域。
• 提出一种专为去中心化、异质性联邦学习环境量身定制的新算法稳定性概念。
• 将适应客户端异质性的复杂问题简化为在两种基线算法之间的简单二元决策。

提出的方法

• 将个体化额外风险（IER）形式化为个性化联邦学习的评估指标。
• 引入极小化极大框架，以分析个性化学习算法的最坏情况性能。
• 提出一种新颖的算法稳定性概念，以考虑客户端特定的数据分布和通信约束。
• 利用损失函数的强凸性和光滑性特性，推导出数据异质性的阈值。
• 在此框架下分析 FedAvg 和纯本地训练，表明其极小化极大最优性取决于异质性阈值。
• 使用近端算子和梯度范数界，推导出高维、去中心化环境下的收敛性和稳定性边界。

实验结果

研究问题

• RQ1 在何种条件下，FedAvg 对个性化联邦学习是极小化极大最优的？
• RQ2 在存在数据异质性时，何时纯本地训练（无通信）是极小化极大最优的？
• RQ3 能否将联邦学习中个性化问题的复杂性简化为 FedAvg 与本地训练之间的二元决策？
• RQ4 数据异质性在决定联邦学习算法极小化极大最优性方面起什么作用？
• RQ5 所提出的算法稳定性概念与经典定义在联邦学习语境下有何不同？

主要发现

• 存在一个数据异质性的阈值，当异质性低于该阈值时，FedAvg 是极小化极大最优的。
• 当数据异质性超过该阈值时，纯本地训练是极小化极大最优的，优于 FedAvg。
• 极小化极大最优选择简化为根据数据异质性水平在 FedAvg 和本地训练之间进行二元决策。
• 该理论阈值通过损失函数的强凸性和光滑性推导得出，依赖于客户端特定的梯度范数和数据规模。
• 所提出的算法稳定性概念使得在个性化联邦学习设置中能够获得更紧致的极小化极大风险边界。
• 分析表明，FedAvg 在高异质性环境下性能显著下降，而本地训练则保持最优。