[论文解读] Incentivizing Federated Learning

Shuyu Kong, You Li+1 more|arXiv (Cornell University)|May 22, 2022

Privacy-Preserving Technologies in Data被引用 8

一句话总结

本文提出了一种联邦学习中的非货币激励机制，根据客户端的数据贡献度奖励其更优的模型性能，确保在特定条件下客户端会贡献所有可用数据。该机制通过基于性能的模型分发，使客户端激励与最大化数据共享保持一致，并在理论上证明：当客户端数据对全局模型质量的边际影响足够高时，客户端将最大化其贡献。

ABSTRACT

Federated Learning is an emerging distributed collaborative learning paradigm used by many of applications nowadays. The effectiveness of federated learning relies on clients' collective efforts and their willingness to contribute local data. However, due to privacy concerns and the costs of data collection and model training, clients may not always contribute all the data they possess, which would negatively affect the performance of the global model. This paper presents an incentive mechanism that encourages clients to contribute as much data as they can obtain. Unlike previous incentive mechanisms, our approach does not monetize data. Instead, we implicitly use model performance as a reward, i.e., significant contributors are paid off with better models. We theoretically prove that clients will use as much data as they can possibly possess to participate in federated learning under certain conditions with our incentive mechanism

研究动机与目标

• 解决联邦学习中客户端因隐私和计算成本而减少数据贡献的问题。
• 设计一种激励机制，以改进的模型性能替代货币奖励作为激励。
• 理论上证明客户端在特定条件下将贡献其最大可用数据。
• 通过将客户端激励与全局模型性能对齐，确保联邦学习的公平性与可持续性。

提出的方法

• 服务器在每轮中评估每个客户端的模型性能，并根据贡献质量的差异分发不同的全局模型。
• 客户端因更高品质或更大体积的数据贡献而获得更优的模型作为奖励。
• 该机制使用一个效用函数，平衡模型性能提升与训练成本及隐私风险。
• 假设贡献更多数据的客户端会上传更优的本地模型，从而将数据量与模型质量直接关联。
• 理论分析依赖于全局模型性能函数的凹性以及个体数据贡献的边际影响。
• 从全局模型性能关于客户端数据量的一阶导数中推导出实现完全数据贡献的关键条件。

实验结果

研究问题

• RQ1 在何种条件下，联邦学习中的客户端会在无货币激励的情况下贡献其最大可用数据？
• RQ2 如何将模型性能用作非货币奖励，以激励联邦学习中的数据共享？
• RQ3 哪些理论条件可确保客户端不会搭便车，而是最大化其数据贡献？
• RQ4 客户端数据对全局模型性能的边际影响如何影响其贡献激励？
• RQ5 基于性能的模型分发策略能否实现纳什均衡，使所有客户端均完全贡献？

主要发现

• 当客户端数据带来的全局模型性能边际提升足够大时，客户端将贡献其全部可用数据。
• 该机制确保客户端在任何情况下都比基线联邦学习更具数据贡献激励。
• 理论证明表明：当全局模型性能关于客户端数据量的导数足够大时，完全数据贡献构成纳什均衡。
• 完全贡献的条件取决于训练成本敏感度与性能增益之比，以及数据对模型质量的边际影响。
• 即使在不严格假设凹性的前提下，该机制仍有效，但理论保证需对数据分布施加一定的正则性条件。
• 该方法以牺牲峰值模型性能为代价换取更强激励，意味着表现最佳的客户端可能无法达到基线联邦学习中的相同模型质量。