[论文解读] Incentives for Federated Learning: a Hypothesis Elicitation Approach

Yang Liu, Jiaheng Wei|arXiv (Cornell University)|Jul 21, 2020

Privacy-Preserving Technologies in Data参考文献 53被引用 15

一句话总结

该论文提出了一种基于假设获取的评分规则框架，旨在激励联邦学习中本地机器学习模型的诚实报告。通过利用贝叶斯纳什均衡与同行预测，该方法确保用户因低质量或虚假假设而获得递减的奖励，已在MNIST和CIFAR-10上验证，对错误报告和对抗性攻击具有鲁棒性。

ABSTRACT

Federated learning provides a promising paradigm for collecting machine learning models from distributed data sources without compromising users' data privacy. The success of a credible federated learning system builds on the assumption that the decentralized and self-interested users will be willing to participate to contribute their local models in a trustworthy way. However, without proper incentives, users might simply opt out the contribution cycle, or will be mis-incentivized to contribute spam/false information. This paper introduces solutions to incentivize truthful reporting of a local, user-side machine learning model for federated learning. Our results build on the literature of information elicitation, but focus on the questions of eliciting hypothesis (rather than eliciting human predictions). We provide a scoring rule based framework that incentivizes truthful reporting of local hypotheses at a Bayesian Nash Equilibrium. We study the market implementation, accuracy as well as robustness properties of our proposed solution too. We verify the effectiveness of our methods using MNIST and CIFAR-10 datasets. Particularly we show that by reporting low-quality hypotheses, users will receive decreasing scores (rewards, or payments).

研究动机与目标

• 解决在联邦学习系统中激励自利用户诚实地贡献其本地训练的机器学习模型的挑战。
• 设计一种支付机制，奖励高质量假设并惩罚低质量或虚假报告，即使在没有真实标签验证的情况下亦可实现。
• 确保该机制在存在与不存在真实标签验证的设定下，均能在贝叶斯纳什均衡下实现诚实报告。
• 在现实的联邦学习场景中，评估其对错误报告行为和对抗性攻击的鲁棒性。
• 提供一种通用且可扩展的解决方案，将激励机制集成到联邦学习流水线中，而无需集中收集标签。

提出的方法

• 提出一种评分规则框架，通过适当的评分规则，将报告的假设与参考标准（真实标签或同行预测）进行比较。
• 采用贝叶斯纳什均衡框架，确保理性参与者诚实报告是其主导策略。
• 引入两种奖励结构：0-1分（one-hot对比）和交叉熵（CE）分，两者均旨在惩罚错误或低置信度的预测。
• 在缺乏真实标签的情况下，使用同行预测作为替代标签，实现类似同行预测的机制，并基于随机相关性假设。
• 通过转移矩阵（均匀和稀疏）对错误报告行为进行建模，以模拟用户不确定性或故意欺骗。
• 使用LinfPGD攻击模拟对抗性攻击，生成扰动输入，并通过加权平均结合预测结果，以模拟验证被破坏的情形。

实验结果

研究问题

• RQ1 能否设计一种评分规则，即使在用户为自利者的情况下，也能激励联邦学习中机器学习假设的诚实报告？
• RQ2 在缺乏真实标签的情况下，仅依赖同行预测，如何确保诚实报告？
• RQ3 所提出的机制在多大程度上对错误报告、共谋行为和对抗性攻击保持鲁棒？
• RQ4 不同的评分规则（0-1分与CE分）如何影响假设报告的准确性和激励一致性？
• RQ5 用户错误报告率变化（例如0.1至0.5）对系统获取高质量模型能力有何影响？

主要发现

• 所提出的评分规则框架即使在用户为自利者且可能错误报告的情况下，也能在贝叶斯纳什均衡下确保诚实报告。
• 在有真实标签验证的情况下，CE分在MNIST和CIFAR-10上均持续优于0-1分，更能激励准确的假设报告。
• 在无真实标签设定下，基于同行预测的机制保持了强劲性能，稀疏错误报告模型下的错误报告率仅适度上升。
• 在30%恶意用户和扰动输入的对抗条件下，机制的平均分数偏差保持在±0.3以内，表明其在攻击下仍具稳定性。
• 在均匀错误报告设定下（e=0.25），0-1分的错误报告率比CE分高出25%，表明CE分具有更优的鲁棒性。
• 在5次运行中，分数的集中趋势显示最大平均偏差达0.3，表明方差适中，但各次试验中性能趋势一致。