[论文解读] A Reputation Mechanism Is All You Need: Collaborative Fairness and Adversarial Robustness in Federated Learning

Xinyi Xu, Lingjuan Lyu|arXiv (Cornell University)|Nov 20, 2020

Privacy-Preserving Technologies in Data参考文献 44被引用 39

一句话总结

论文提出 Robust and Fair Federated Learning (RFFL)，一个基于声誉的框架，根据贡献奖励参与者并拒绝对手，实现在没有额外验证数据的情况下的协同公平性和鲁棒性。

ABSTRACT

Federated learning (FL) is an emerging practical framework for effective and scalable machine learning among multiple participants, such as end users, organizations and companies. However, most existing FL or distributed learning frameworks have not well addressed two important issues together: collaborative fairness and adversarial robustness (e.g. free-riders and malicious participants). In conventional FL, all participants receive the global model (equal rewards), which might be unfair to the high-contributing participants. Furthermore, due to the lack of a safeguard mechanism, free-riders or malicious adversaries could game the system to access the global model for free or to sabotage it. In this paper, we propose a novel Robust and Fair Federated Learning (RFFL) framework to achieve collaborative fairness and adversarial robustness simultaneously via a reputation mechanism. RFFL maintains a reputation for each participant by examining their contributions via their uploaded gradients (using vector similarity) and thus identifies non-contributing or malicious participants to be removed. Our approach differentiates itself by not requiring any auxiliary/validation dataset. Extensive experiments on benchmark datasets show that RFFL can achieve high fairness and is very robust to different types of adversaries while achieving competitive predictive accuracy.

研究动机与目标

• 激发在参与者贡献各不相同的情况下，联邦学习中对协作公平性的需求。
• 提出基于声誉的机制来量化并奖励贡献，同时剔除低声誉参与者。
• 解决对抗鲁棒性以处理自由搭便车者和恶意参与者，且不需要辅助数据集。
• 证明 RFFL 在基准数据集上实现高公平性和鲁棒性，同时具备有竞争力的预测准确性。

提出的方法

• 通过独立本地测试准确度定义贡献 v。
• 通过最终测试准确度定义奖励 φ；用皮尔逊相关系数 ρp(v, φ) 测量公平性。
• 引入每个参与者的声誉 r_i(t)；通过上传梯度与聚合梯度之间的余弦相似度来更新。
• 对声誉良好的参与者进行声誉加权梯度聚合；对梯度进行归一化以防止梯度爆炸（γ）。
• 通过与 r_i(t) 成正比的 quota_i 控制梯度下载，以实现有选择的信息交换。
• 迭代地移除声誉低于阈值 β 的参与者以加强鲁棒性和公平性。

实验结果

研究问题

• RQ1 声誉机制是否能够使奖励与在联邦学习中的实际贡献对齐，以实现协作公平性？
• RQ2 经过声誉加权的聚合是否在没有额外验证数据的情况下提高对定向/非定向污染和自私搭便车者的鲁棒性？
• RQ3 声誉动态和阈值设置在异质数据环境下对预测准确性和公平性的影响？
• RQ4 RFFL 在各种攻击情形下与现有公平性和鲁棒性基线相比如何？

主要发现

• RFFL 在多数据集和分割上，基于与独立性能的皮尔逊相关性衡量的公平性，超过若干基线。
• 声誉加权聚合提高预测性能，尤其在异质数据分割下（如 POW 和 CLA）。
• RFFL 对非定向污染和自由搭便车者具有鲁棒性，能够降低定向污染的影响，尽管在某些配置下完全移除定向攻击者具有挑战性。
• 对手和自由搭便车者的声誉常常降至 β 以下，并在后续回合中被移除，从而增强长期鲁棒性。
• 在某些设定下，CFFL 可以超越 RFFL，但需要辅助验证数据；RFFL 在没有额外数据的情况下实现具有竞争力的公平性。