[论文解读] IP-FL: Incentivized and Personalized Federated Learning

Ahmad Khan, Xinran Wang+8 more|arXiv (Cornell University)|Apr 15, 2023

Privacy-Preserving Technologies in Data被引用 5

一句话总结

PI-FL 提出了一种新颖的联邦学习框架，将一次性分层个性化与基于令牌的激励机制相结合，以在保持客户端自主性和隐私的前提下提升模型质量。通过允许客户端根据其数据分布出价选择偏好层级，并基于 Shapley 值计算的效用奖励高贡献客户端，PI-FL 在数据高度异构的情况下实现了最先进的个性化模型准确率。

ABSTRACT

Existing incentive solutions for traditional Federated Learning (FL) focus on individual contributions to a single global objective, neglecting the nuances of clustered personalization with multiple cluster-level models and the non-monetary incentives such as personalized model appeal for clients. In this paper, we first propose to treat incentivization and personalization as interrelated challenges and solve them with an incentive mechanism that fosters personalized learning. Additionally, current methods depend on an aggregator for client clustering, which is limited by a lack of access to clients' confidential information due to privacy constraints, leading to inaccurate clustering. To overcome this, we propose direct client involvement, allowing clients to indicate their cluster membership preferences based on data distribution and incentive-driven feedback. Our approach enhances the personalized model appeal for self-aware clients with high-quality data leading to their active and consistent participation. Our evaluation demonstrates significant improvements in test accuracy (8-45%), personalized model appeal (3-38%), and participation rates (31-100%) over existing FL models, including those addressing data heterogeneity and personalization.

研究动机与目标

• 通过使客户端根据其自身数据分布和目标个性化模型，解决联邦学习中的数据异构性挑战。
• 通过允许客户端自主决定加入哪些层级而不向聚合器泄露私有数据，保护客户端自主性和隐私。
• 通过引入与贡献质量一致的基于令牌的奖励机制，克服现有联邦学习系统中客户端激励不足的问题。
• 将个性化与激励机制整合到单一框架中，使激励直接促进高质量参与和模型个性化。
• 实现在客户端上极低计算成本的一次性个性化模型生成，即使对于私有或新到达的数据亦可高效处理。

提出的方法

• 将层级模型作为聚类中心，基于数据分布相似性对客户端进行分组训练，每个客户端根据本地数据估计各层级的重要性权重。
• 允许客户端根据其数据分布和个性化目标，提交加入特定层级的偏好出价，以保护客户端自主性。
• 在聚合器端使用调度器根据客户端出价和历史表现形成层级，确保与客户端数据分布一致。
• 通过使用层级模型进行一次性个性化，以最小重训练成本为每个客户端生成个性化模型。
• 引入基于令牌的激励机制，使客户端同时作为贡献提供者（因贡献获得令牌）和消费者（用令牌访问模型），并使用 Shapley 值计算边际效用以奖励贡献。
• 基于客户端对层级模型的贡献计算各层级的激励，鼓励客户端加入与其数据分布匹配的层级以最大化收益。

实验结果

研究问题

• RQ1 在实现有效模型个性化的同时，如何保护个性化联邦学习中客户端的自主性？
• RQ2 在非独立同分布数据下，基于令牌的激励机制在多大程度上提升了参与度和模型质量？
• RQ3 使用层级模型的一次性个性化是否能在准确率和效率方面超越现有最先进的个性化联邦学习方法？
• RQ4 将激励与个性化相结合，对层级模型和客户端特定模型的质量有何影响？
• RQ5 激励对齐对客户端行为（如层级选择和贡献质量）有何影响？

主要发现

• 在 10:90 数据划分下，PI-FL 在 c1 层级模型上实现了 67.4% 的测试准确率，显著优于 FedSoft 在相同分布下仅 49.62% 的准确率。
• 在 CIFAR-10 的消融实验中，带激励的 PI-FL（PI-FL(I)）在 10:90 划分下实现了 64.54% 的个性化模型准确率，而关闭激励的版本（PI-FL(NI)）仅为 57.42%。
• 个性化模型准确率的累积分布函数（CDF）显示，除 30:70 划分（数据异构性较低）外，PI-FL 带激励版本在所有划分中均持续优于非激励版本。
• PI-FL(I) 在所有划分中均优于其目标分布，层级模型在匹配其训练数据分布的划分上达到峰值准确率（例如，在线性划分中，c0 在 θ₀ 上达到 61.66%）。
• 激励机制通过使客户端行为与最优层级参与对齐，直接提升了模型质量，表现为当客户端被激励加入相关层级时，准确率更高。
• 在 EMNIST 数据集上，PI-FL 在高度异构划分（10:90 和线性）下显著优于 Ditto，证明了客户端驱动个性化相较于聚合器驱动方法的优势。