[论文解读] Maximizing Global Model Appeal in Federated Learning

Yae Jee Cho, Divyansh Jhunjhunwala+3 more|arXiv (Cornell University)|May 30, 2022

Privacy-Preserving Technologies in Data被引用 4

一句话总结

本文提出 MaxFL，一种新颖的联邦学习框架，通过使用客户端需求感知的加权聚合方式，最大化全局模型吸引力——即满足其个性化性能需求的客户端比例。与最先进联邦学习方法相比，MaxFL 在已见客户端上的测试准确率提升 22–40%，在未见客户端上提升 18–50%，同时在非凸、部分参与的设置下提供了收敛性保证。

ABSTRACT

Federated learning typically considers collaboratively training a global model using local data at edge clients. Clients may have their own individual requirements, such as having a minimal training loss threshold, which they expect to be met by the global model. However, due to client heterogeneity, the global model may not meet each client's requirements, and only a small subset may find the global model appealing. In this work, we explore the problem of the global model lacking appeal to the clients due to not being able to satisfy local requirements. We propose MaxFL, which aims to maximize the number of clients that find the global model appealing. We show that having a high global model appeal is important to maintain an adequate pool of clients for training, and can directly improve the test accuracy on both seen and unseen clients. We provide convergence guarantees for MaxFL and show that MaxFL achieves a $22$-$40\%$ and $18$-$50\%$ test accuracy improvement for the training clients and unseen clients respectively, compared to a wide range of FL modeling approaches, including those that tackle data heterogeneity, aim to incentivize clients, and learn personalized or fair models.

研究动机与目标

• 解决因全局模型无法满足客户端个性化性能需求而导致的联邦学习中客户端参与度低下的关键问题。
• 定义并形式化“全局模型吸引力”这一概念，即其局部需求被全局模型满足的客户端所占比例。
• 开发一种显式最大化此吸引力的训练框架，从而提升客户端留存率与模型泛化能力。
• 为所提方法在现实联邦学习条件下（包括部分客户端参与和非凸目标）提供理论收敛保证。
• 通过实证验证 MaxFL 在公平性、个性化以及客户端激励机制方面的优越性。

提出的方法

• MaxFL 构建一个全局优化目标，旨在最大化其局部损失低于客户端特定阈值的客户端数量，该目标即为全局模型吸引力（GM-Appeal）。
• 采用可微的、基于 Sigmoid 的松弛方法近似客户端满意度的指示函数，从而支持对客户端加权聚合方案的梯度优化。
• 采用基于客户端加权的聚合规则，其中客户端更新贡献的权重根据其对提升 GM-Appeal 的预期贡献进行缩放，该贡献由经验局部损失推导得出。
• 提出一种理论学习率自适应策略，可在目标函数的平坦区域加快收敛速度，提升优化效率。
• 该框架为无状态设计，支持部分客户端参与，使其在客户端动态可用的真实联邦学习环境中更具实用性。
• 在优化目标中用经验损失替代真实局部损失，该做法通过实证验证支持：在训练模型中，真实损失与经验损失之间的偏差极小。

实验结果

研究问题

• RQ1 如何重构联邦学习，以最大化认为全局模型具有吸引力的客户端数量？
• RQ2 高全局模型吸引力对已见和未见客户端的测试准确率有何影响？
• RQ3 基于客户端需求的聚合策略是否能优于聚焦于公平性、个性化或方差减少的现有方法？
• RQ4 针对非凸、客户端加权、吸引力最大化的联邦学习算法，可提供何种理论收敛保证？
• RQ5 该方法在动态客户端参与环境下（包括客户端退出和拜占庭客户端参与）的鲁棒性如何？

主要发现

• MaxFL 在所有评估数据集上的全局模型吸引力（GM-Appeal）均达到至少 0.40，显著优于以公平性为导向的方法（如 q-FFL），后者 GM-Appeal 低于 0.01。
• 与多种联邦学习基线方法（包括个性化、公平性和方差减少方法）相比，MaxFL 在已见客户端上的测试准确率提升 22–40%。
• 对于未见客户端，MaxFL 实现了 18–50% 的准确率提升，表明由于高吸引力带来的更大、更丰富的客户端群体，其泛化能力更优。
• 即使在客户端退出或拜占庭客户端参与的情况下，该方法仍保持强劲性能，显示出在动态环境中的鲁棒性。
• 实证验证表明，训练模型中真实局部损失与经验损失几乎完全一致，支持 MaxFL 优化中所采用的关键松弛假设。
• MaxFL 中的理论学习率自适应策略可加快平坦区域的收敛速度，如均值估计示例所示，验证了该自适应学习率策略的有效性。