[论文解读] A Non-parametric View of FedAvg and FedProx: Beyond Stationary Points

Lili Su, Jiaming Xu+1 more|arXiv (Cornell University)|Jun 29, 2021

Privacy-Preserving Technologies in Data被引用 16

一句话总结

本文通过再生核希尔伯特空间（RKHS）对联邦平均（FedAvg）和联邦近端（FedProx）在异构、非平衡数据设置下的非参数分析表明，两种算法在估计误差上均以 $1/t$ 的速率衰减，且在有限秩核下呈指数衰减。尽管未能收敛至驻点，但两者均实现了极小化最优误差率。所提出的“联邦增益”量化了客户端参与带来的特定收益，尤其在中等异构性下对数据稀缺客户端具有显著优势。

ABSTRACT

Federated Learning (FL) is a promising decentralized learning framework and has great potentials in privacy preservation and in lowering the computation load at the cloud. Recent work showed that FedAvg and FedProx - the two widely-adopted FL algorithms - fail to reach the stationary points of the global optimization objective even for homogeneous linear regression problems. Further, it is concerned that the common model learned might not generalize well locally at all in the presence of heterogeneity. In this paper, we analyze the convergence and statistical efficiency of FedAvg and FedProx, addressing the above two concerns. Our analysis is based on the standard non-parametric regression in a reproducing kernel Hilbert space (RKHS), and allows for heterogeneous local data distributions and unbalanced local datasets. We prove that the estimation errors, measured in either the empirical norm or the RKHS norm, decay with a rate of 1/t in general and exponentially for finite-rank kernels. In certain heterogeneous settings, these upper bounds also imply that both FedAvg and FedProx achieve the optimal error rate. To further analytically quantify the impact of the heterogeneity at each client, we propose and characterize a novel notion-federation gain, defined as the reduction of the estimation error for a client to join the FL. We discover that when the data heterogeneity is moderate, a client with limited local data can benefit from a common model with a large federation gain. Numerical experiments further corroborate our theoretical findings.

研究动机与目标

• 为了解决联邦平均（FedAvg）和联邦近端（FedProx）未能收敛至驻点却仍能实现低估计误差这一悖论。
• 分析联邦平均（FedAvg）和联邦近端（FedProx）在异构、非平衡本地数据分布下的收敛性与统计效率。
• 提出并形式化一种新度量——“联邦增益”，以量化客户端参与联邦模型所获得的收益。
• 在RKHS范数下建立理论误差界，并在特定异构条件下证明其最优性。
• 通过实验验证，两种算法在多项式回归等非线性设置下均能实现接近最优的估计速率。

提出的方法

• 分析基于再生核希尔伯特空间（RKHS）中的非参数回归，允许在无需参数假设的情况下灵活估计函数。
• 作者推导了在经验范数与RKHS范数下的估计误差界，表明其衰减速率为 $1/t$，且在有限秩核下呈现指数衰减。
• 定义了一项新度量——“联邦增益”，即客户端通过参与联邦模型相较于本地训练所实现的估计误差减少量。
• 理论分析考虑了异构数据分布与非平衡客户端数据集，避免了诸如有界梯度差异或新数据等限制性假设。
• 通过在不同数据异构性与客户端数据规模下的线性与非线性（多项式）回归任务中进行数值实验，验证了该框架。
• 采用蒙特卡洛积分方法评估非线性函数拟合中的均方误差（MSE），并将不同聚合周期下的FedAvg与FedProx结果进行对比。

实验结果

研究问题

• RQ1 尽管FedAvg和FedProx未能收敛至驻点，是否仍能实现最优统计估计速率？
• RQ2 数据异构性与非平衡客户端数据如何影响FedAvg和FedProx的收敛性与泛化能力？
• RQ3 客户端参与联邦模型的具体收益是什么？如何实现定量度量？
• RQ4 在不同数据子空间维度下，数据稀缺客户端与数据丰富客户端的联邦增益是否存在显著差异？
• RQ5 FedAvg和FedProx是否能在非线性函数拟合（如多项式回归）中实现接近极小化最优的误差率？

主要发现

• FedAvg和FedProx在经验范数与RKHS范数下均实现估计误差以 $1/t$ 的速率衰减，且在有限秩核下呈现指数衰减。
• 在某些异构设置中，估计误差的上界与极小化最优率一致，表明具有统计效率。
• 在中等异构性下，数据稀缺客户端的联邦增益显著更高，表明模型共享带来强大收益。
• 对于数据稀缺客户端，联邦增益随子空间维数 $r$ 增加而上升，直至 $r \approx 27$ 后趋于稳定，反映出数据覆盖中的优惠券收集效应。
• 对于数据丰富客户端，联邦增益起初上升，但当 $r$ 接近100时开始下降，原因在于本地模型性能较强。
• 在多项式回归中，FedAvg与FedProx均实现了接近最优的估计速率，其倒数误差近似呈直线，证实了 $O(1/N)$ 的收敛性。