[论文解读] GTG-Shapley: Efficient and Accurate Participant Contribution Evaluation in Federated Learning

Zelei Liu, Yuanyuan Chen+3 more|arXiv (Cornell University)|Sep 5, 2021

Privacy-Preserving Technologies in Data被引用 9

一句话总结

GTG-Shapley 提出了一种高效且准确的方法，用于在联邦学习中使用 Shapley 值评估参与者贡献，且无需重新训练模型。它利用梯度更新重建子模型，并采用带有组内和组间截断的引导式蒙特卡洛采样，显著降低计算量，同时保持高精度，尤其在非独立同分布（non-i.i.d.）数据分布下表现优异。

ABSTRACT

Federated Learning (FL) bridges the gap between collaborative machine learning and preserving data privacy. To sustain the long-term operation of an FL ecosystem, it is important to attract high quality data owners with appropriate incentive schemes. As an important building block of such incentive schemes, it is essential to fairly evaluate participants' contribution to the performance of the final FL model without exposing their private data. Shapley Value (SV)-based techniques have been widely adopted to provide fair evaluation of FL participant contributions. However, existing approaches incur significant computation costs, making them difficult to apply in practice. In this paper, we propose the Guided Truncation Gradient Shapley (GTG-Shapley) approach to address this challenge. It reconstructs FL models from gradient updates for SV calculation instead of repeatedly training with different combinations of FL participants. In addition, we design a guided Monte Carlo sampling approach combined with within-round and between-round truncation to further reduce the number of model reconstructions and evaluations required, through extensive experiments under diverse realistic data distribution settings. The results demonstrate that GTG-Shapley can closely approximate actual Shapley values, while significantly increasing computational efficiency compared to the state of the art, especially under non-i.i.d. settings.

研究动机与目标

• 解决现有基于 Shapley 值的联邦学习贡献评估方法计算成本过高的问题。
• 实现在不暴露本地数据的前提下，公平且隐私保护的参与者贡献评估。
• 减少准确近似 Shapley 值所需的模型重建和评估次数。
• 通过引入引导式采样，消除蒙特卡洛估计中随机排列采样带来的偏差。
• 通过组内和组间截断策略，同时提升效率与准确性。

提出的方法

• 从梯度更新中重建联邦学习子模型，而非从头开始重新训练，避免冗余训练。
• 采用引导式蒙特卡洛采样策略，优先选择使每位参与者处于关键位置的排列，以减少估计偏差。
• 应用组内截断，在单轮采样过程中跳过不必要的子模型评估。
• 引入组间截断，当多轮中模型效用增益趋于平稳时提前终止采样。
• 利用先前已评估的模型效用作为指导，有选择性地跳过子模型重建和评估操作。
• 结合基于梯度的模型重建与截断技术，实现高效率与高精度。

实验结果

研究问题

• RQ1 基于梯度的子模型重建能否显著降低联邦学习中 Shapley 值估计的计算成本？
• RQ2 与随机排列采样相比，引导式采样在降低偏差和提升准确性方面有多有效？
• RQ3 组内和组间截断技术在不牺牲准确性的情况下，能在多大程度上提升效率？
• RQ4 GTG-Shapley 在非独立同分布（non-i.i.d.）数据分布下的表现如何？这类分布常见于现实联邦学习场景。
• RQ5 所提方法能否在不降低准确性的前提下，同时实现高效率，并超越现有最先进方法？

主要发现

• GTG-Shapley 对真实 Shapley 值的近似非常接近，所有测试设置下的估计精度均持续高于现有最先进方法。
• 与现有方法相比，该方法将计算时间降低了多个数量级，尤其在非独立同分布（non-i.i.d.）数据分布下表现更优。
• 组间截断平均提升效率 17%，在某些设置下甚至快达 3 倍，且未降低准确性。
• 引导式采样显著提升了估计精度，在大多数情况下相比随机采样性能提升了一个数量级以上。
• 组内截断减少了单轮采样中的冗余评估，有助于整体效率提升。
• GTG-Shapley 在效率和准确性两方面均优于所有基线方法，尤其在非独立同分布场景下表现突出，此时公平性与准确性最为关键。