[论文解读] A Survey of Fairness-Aware Federated Learning

Yuxin Shi, Han Yu+1 more|arXiv (Cornell University)|Nov 2, 2021

Privacy-Preserving Technologies in Data参考文献 72被引用 14

一句话总结

本文对公平感知联邦学习（FAFL）进行了全面综述，提出了一套涵盖客户端选择、优化、贡献评估和激励分配的分类体系。文章识别了关键的公平性概念、度量指标以及未来研究方向，以提升联邦学习中客户端的参与度与系统可持续性。

ABSTRACT

Recent advances in Federated Learning (FL) have brought large-scale machine learning opportunities for massive distributed clients with performance and data privacy guarantees. However, most current works only focus on the interest of the central controller in FL, and ignore the interests of clients. This may result in unfairness which discourages clients from actively participating in the learning process and damages the sustainability of the whole FL system. Therefore, the topic of ensuring fairness in an FL is attracting a great deal of research interest. In recent years, diverse Fairness-Aware FL (FAFL) approaches have been proposed in an effort to achieve fairness in FL from different viewpoints. However, there is no comprehensive survey which helps readers gain insight into this interdisciplinary field. This paper aims to provide such a survey. By examining the fundamental and simplifying assumptions, as well as the notions of fairness adopted by existing literature in this field, we propose a taxonomy of FAFL approaches covering major steps in FL, including client selection, optimization, contribution evaluation and incentive distribution. In addition, we discuss the main metrics for experimentally evaluating the performance of FAFL approaches, and suggest some promising future research directions.

研究动机与目标

• 填补在公平感知联邦学习（FAFL）这一新兴跨学科领域中缺乏全面综述的空白。
• 识别并分析现有FAFL文献中采用的基本假设与公平性概念。
• 提出一个结构化的FAFL方法分类体系，涵盖联邦学习关键阶段：客户端选择、优化、贡献评估与激励分配。
• 回顾并比较FAFL方法实验研究中使用的性能评估度量指标。
• 突出显示有望提升联邦学习系统公平性与可持续性的未来研究方向。

提出的方法

• 根据FAFL方法在联邦学习流程中关注的具体阶段（客户端选择、优化、贡献评估与激励分配）对方法进行分类。
• 分析并归类现有FAFL研究中采用的公平性概念，如数据公平性、模型公平性与资源公平性。
• 系统性地考察FAFL方法所依赖的假设，包括客户端异构性与通信约束。
• 回顾并整合用于评估公平性与性能的实验度量，如准确率差异与收敛稳定性。
• 映射公平性目标与系统级目标（如收敛速度与通信效率）之间的相互作用。
• 基于现有文献中的研究空白与趋势，提出一个面向未来FAFL研究的结构化框架。

实验结果

研究问题

• RQ1 现有公平感知联邦学习方法中，主流的公平性概念与假设是什么？
• RQ2 FAFL方法如何在去中心化环境中分配激励或资源，以确保客户端间的公平性？
• RQ3 FAFL实验中常用于评估公平性与系统效率的性能度量有哪些？
• RQ4 客户端选择、优化与贡献评估机制如何促进联邦学习中的公平性？
• RQ5 在推进公平感知联邦学习方面，存在哪些关键开放挑战与有前景的研究方向？

主要发现

• 提出了一套涵盖客户端选择、优化、贡献评估与激励分配四个核心阶段的FAFL方法综合分类体系。
• 在现有FAFL文献中识别并分析了多种公平性概念，如数据公平性、模型公平性与资源公平性。
• 综述表明，联邦学习中的公平性通常通过激励机制来实现，以使客户端参与与公平回报相一致。
• FAFL中的性能评估通常使用准确率差异、收敛速度与通信效率等度量指标。
• 本文发现缺乏标准化的评估协议，呼吁建立统一基准以比较公平感知方法。
• 未来研究应聚焦于设计可扩展、隐私保护且具备自适应能力的公平机制，以应对异构且动态的联邦学习环境。