[论文解读] Mechanisms that Incentivize Data Sharing in Federated Learning

Sai Praneeth Karimireddy, Wenshuo Guo+1 more|arXiv (Cornell University)|Jul 10, 2022

Privacy-Preserving Technologies in Data被引用 14

一句话总结

本文提出了一种基于契约理论的机制，通过根据个体贡献调整模型准确率来激励联邦学习中的数据共享，无需货币支付即可消除搭便车行为。证明了最优准确率调节可确保在已知和未知代理成本下实现最大数据生成，并在均衡状态下实现完全协作。

ABSTRACT

Federated learning is typically considered a beneficial technology which allows multiple agents to collaborate with each other, improve the accuracy of their models, and solve problems which are otherwise too data-intensive / expensive to be solved individually. However, under the expectation that other agents will share their data, rational agents may be tempted to engage in detrimental behavior such as free-riding where they contribute no data but still enjoy an improved model. In this work, we propose a framework to analyze the behavior of such rational data generators. We first show how a naive scheme leads to catastrophic levels of free-riding where the benefits of data sharing are completely eroded. Then, using ideas from contract theory, we introduce accuracy shaping based mechanisms to maximize the amount of data generated by each agent. These provably prevent free-riding without needing any payment mechanism.

研究动机与目标

• 解决联邦学习中的搭便车问题，即理性代理在受益于他人贡献的同时隐瞒自身数据。
• 设计一种机制，在不依赖货币转移的情况下最大化总数据生成量。
• 通过成本-准确率权衡的委托-代理框架，形式化数据最大化激励问题。
• 在已知和部分信息关于代理成本的情况下，推导最优准确率调节机制。
• 表明当通过适当激励分担成本时，协作学习在困难学习任务中变得具有经济可行性。

提出的方法

• 构建一个委托-代理模型，其中代理需承担生成数据的成本，并致力于最大化模型准确率减去成本。
• 引入一种准确率调节机制，将代理的数据贡献映射为其获得的模型准确率，使用分段线性函数。
• 利用变分法推导最优机制，以在已知成本下平衡高贡献与低贡献的均衡。
• 证明最优机制对高成本代理的斜率为 $\bar{c}$，对低成本代理的斜率为 $\underaccent{\bar}{c}$，从而确保激励相容性。
• 在成本未知的情况下，设计能够诱导代理报告真实成本的诚实揭示准确率曲线，接受信息租金。
• 使用几何论证证明，任何最优机制都必须符合推导出的分段线性结构。

实验结果

研究问题

• RQ1 如何在不使用货币支付的情况下消除联邦学习中的搭便车行为？
• RQ2 哪些机制设计原则可确保理性代理实现最大数据贡献？
• RQ3 当代理成本已知时，模型准确率调节如何影响均衡下的数据贡献？
• RQ4 当成本为私有信息时，能否激励代理进行诚实的成本报告？
• RQ5 与独立学习相比，协作学习在何种条件下变得具有经济可行性？

主要发现

• 在采用无条件模型共享的朴素联邦学习设置中，会出现灾难性的搭便车现象，即代理在均衡状态下贡献零数据。
• 在已知成本的情况下，最优准确率调节机制通过将个体激励与系统级数据最大化对齐，实现完全数据贡献。
• 最优机制采用分段线性准确率曲线，对高成本代理的斜率为 $\bar{c}$，对低成本代理的斜率为 $\underaccent{\bar}{c}$。
• 在成本未知的情况下，机制通过在预期数据贡献与信息租金之间提供权衡，诱导代理进行诚实的成本报告。
• 当准确率曲线的导数在每一点均匹配边际成本时，均衡下的数据贡献达到最大，从而确保激励相容性。
• 该框架证明，当通过精心设计的激励机制分担成本时，协作学习在困难学习任务中具有经济可行性。