[论文解读] Fairness-aware Agnostic Federated Learning

Wei Du, Depeng Xu+2 more|arXiv (Cornell University)|Oct 10, 2020

Privacy-Preserving Technologies in Data参考文献 36被引用 7

一句话总结

该论文提出AgnosticFair，一种公平感知的异构联邦学习框架，通过核重加权函数在损失函数和公平性约束中为每个样本分配特定权重，从而在未知测试数据分布下实现高准确率与公平性保障。该方法在数据分布漂移下表现稳健，并确保全局与本地客户端的公平性，同时无需共享原始数据。

ABSTRACT

Federated learning is an emerging framework that builds centralized machine learning models with training data distributed across multiple devices. Most of the previous works about federated learning focus on the privacy protection and communication cost reduction. However, how to achieve fairness in federated learning is under-explored and challenging especially when testing data distribution is different from training distribution or even unknown. Introducing simple fairness constraints on the centralized model cannot achieve model fairness on unknown testing data. In this paper, we develop a fairness-aware agnostic federated learning framework (AgnosticFair) to deal with the challenge of unknown testing distribution. We use kernel reweighing functions to assign a reweighing value on each training sample in both loss function and fairness constraint. Therefore, the centralized model built from AgnosticFair can achieve high accuracy and fairness guarantee on unknown testing data. Moreover, the built model can be directly applied to local sites as it guarantees fairness on local data distributions. To our best knowledge, this is the first work to achieve fairness in federated learning. Experimental results on two real datasets demonstrate the effectiveness in terms of both utility and fairness under data shift scenarios.

研究动机与目标

• 解决在测试数据分布未知或与训练数据不一致时，联邦学习中实现公平性的挑战。
• 开发一种框架，在未知测试数据上保证公平性的同时维持高模型准确率。
• 确保公平性不仅在全局层面，也在本地客户端数据分布上实现，即使其与全局训练数据分布不同。
• 通过仅在客户端与服务器之间交换参数和系数，实现高效优化，保护数据隐私。
• 首次在分布漂移条件下，正式将公平性约束整合进异构联邦学习框架。

提出的方法

• 将公平感知的异构联邦学习建模为学习者与生成最坏情况测试分布的对手之间的二人零和博弈。
• 使用核重加权函数对损失函数和公平性约束进行参数化，实现与分布无关的优化。
• 为每个训练样本分配独立的重加权值，这些值与模型参数联合优化，以平衡准确率与公平性。
• 采用仅在客户端与服务器之间交换模型参数和重加权系数的随机优化算法，确保数据隐私。
• 通过重加权样本将公平性约束（如人口均等性）整合到异构损失中，确保在未知分布上的公平性。
• 支持将全局模型部署在任意本地站点，因其可保证在本地数据分布上的公平性。

实验结果

研究问题

• RQ1 联邦学习模型能否在与训练数据不同的未知测试数据分布上实现公平性？
• RQ2 在数据分布漂移下，如何在保证全局公平性的同时，也确保在单个客户端数据分布上的公平性？
• RQ3 核重加权函数是否能有效平衡在分布漂移存在时的模型准确率与公平性？
• RQ4 所提出的框架是否在保证公平性的同时保持高效用，特别是在客户端数量增加时？
• RQ5 在非独立同分布（non-IID）和独立同分布（IID）数据设置下，该框架与标准联邦学习及公平感知基线方法相比表现如何？

主要发现

• 在数据漂移下，AgnosticFair在非独立同分布设置中，相比基线方法如AgnosticFair-b和[20]，实现了更高的准确率与公平性。
• 在Adult和Dutch数据集上，AgnosticFair在测试数据分布未知时仍保持高准确率（如Adult数据集上达0.8111），优于[20]的0.7785准确率。
• 由AgnosticFair训练的全局模型可保证在所有本地客户端上实现公平性，即使其数据分布与全局训练数据不同。
• AgnosticFair在不同客户端数量下表现稳定，而LocalFair在客户端数量增加时性能显著下降。
• 在IID设置下，AgnosticFair-a的准确率与标准联邦学习相当（如Adult数据集上0.8130 vs. 0.8111），验证了其与经验风险最小化的理论等价性。
• 该框架在保持高效率的同时成功维持了公平性，展现出在全局与本地场景下对分布漂移的鲁棒性。