[论文解读] Private and Robust Contribution Evaluation in Federated Learning

Delio Jaramillo Velez, Biczok, Gergely+3 more|arXiv (Cornell University)|Feb 25, 2026

Privacy-Preserving Technologies in Data被引用 0

一句话总结

本文提出两种与Shapley-值兼容的边际差额贡献分数，Fair-Private（FP）和Everybody-Else（EE），在跨村级联邦学习中以私密且鲁棒的方式评估客户端贡献，解决公平性、隐私和抗操控性的问题。

ABSTRACT

Cross-silo federated learning allows multiple organizations to collaboratively train machine learning models without sharing raw data, but client updates can still leak sensitive information through inference attacks. Secure aggregation protects privacy by hiding individual updates, yet it complicates contribution evaluation, which is critical for fair rewards and detecting low-quality or malicious participants. Existing marginal-contribution methods, such as the Shapley value, are incompatible with secure aggregation, and practical alternatives, such as Leave-One-Out, are crude and rely on self-evaluation. We introduce two marginal-difference contribution scores compatible with secure aggregation. Fair-Private satisfies standard fairness axioms, while Everybody-Else eliminates self-evaluation and provides resistance to manipulation, addressing a largely overlooked vulnerability. We provide theoretical guarantees for fairness, privacy, robustness, and computational efficiency, and evaluate our methods on multiple medical image datasets and CIFAR10 in cross-silo settings. Our scores consistently outperform existing baselines, better approximate Shapley-induced client rankings, and improve downstream model performance as well as misbehavior detection. These results demonstrate that fairness, privacy, robustness, and practical utility can be achieved jointly in federated contribution evaluation, offering a principled solution for real-world cross-silo deployments.

研究动机与目标

• 在跨 silo FL 中尽管存在安全聚合隐藏单个更新的情况下，激励公平且私密的贡献评估（CE）。
• 提出满足公平性、隐私性和鲁棒性属性的 CE 分数，在 SA 下。
• 分析理论保证与在医疗影像数据集和 CIFAR-10 上的经验表现。

提出的方法

• 将 FAIr-Private（FP）定义为一个与 SA 兼容的 CE 分数，结合 Leave-One-Out 和 Include-One-In 边际并进行归一化以实现效率性。
• 将 Everybody-Else（EE）定义为一个与 SA 兼容的 CE 分数，利用跨客户端评估来避免自我评估并增加对操纵的抵抗力。
• 证明 FP 满足效率性、无效玩家、对称性和 SA 兼容性；证明 EE 满足效率性、对称性、SA 兼容性以及对操纵的抵抗性（但不满足无效玩家）。
• 提供一个保持 SA 的评估框架，使每个客户端能够从在 SA 下可访问的联盟（M0、M、M0+Ui、M−Ui）中计算分数。
• 与 MR-SV 和 COS 进行比较，并分析计算复杂度（O(N)）和隐私影响。

实验结果

研究问题

• RQ1 如何在安全聚合的联邦学习中实现公平且私密的贡献评估而不暴露单个更新？
• RQ2 我们能否设计与 SA 兼容的 CE 分数，在保留关键公平性属性的同时对自私行为具有鲁棒性？
• RQ3 在跨 silo 设置下，提出的分数与基于 Shapley 值的排序的近似程度有多高？
• RQ4 FP 和 EE 在跨 silo FL 的非 IID 医学成像数据集和 CIFAR-10 上的经验表现如何？

主要发现

• FP 和 EE 在各数据集上持续超越 Leave-One-Out（LOO）并更好地逼近 Shapley 引导的排名（MR-SV）。
• FP 和 EE 与真实的 Shapley 基于排名高度相关（相关性度量高），同时保持 SA 兼容性。
• EE 通过避免自我评估实现对操纵的抵抗，减少自私客户端抬高分数的动机。
• FP 和 EE 保持线性时间复杂度（O(N)）的计算效率。
• 经验结果显示下游模型性能改善并且相对于基线的异常行为检测有所提升。
• 在评估的数据集上，FP 与 EE 相较 COS 等 SA 兼容 CE 方法表现更优。