[论文解读] Entropy-driven Fair and Effective Federated Learning

Lin Wang, Zhichao Wang+3 more|arXiv (Cornell University)|Jan 29, 2023

Privacy-Preserving Technologies in Data被引用 5

一句话总结

本文提出了一种基于熵的联邦学习框架，通过基于损失的注意力机制动态调整客户端参与度和梯度聚合，从而提升公平性与模型有效性。该方法基于局部损失和温度缩放的指数加权，确保损失更高的客户端在全局更新中贡献更多，从而改善收敛性并减少异构客户端间的性能差异。

ABSTRACT

Federated Learning (FL) enables collaborative model training across distributed devices while preserving data privacy. Nonetheless, the heterogeneity of edge devices often leads to inconsistent performance of the globally trained models, resulting in unfair outcomes among users. Existing federated fairness algorithms strive to enhance fairness but often fall short in maintaining the overall performance of the global model, typically measured by the average accuracy across all clients. To address this issue, we propose a novel algorithm that leverages entropy-based aggregation combined with model and gradient alignments to simultaneously optimize fairness and global model performance. Our method employs a bi-level optimization framework, where we derive an analytic solution to the aggregation probability in the inner loop, making the optimization process computationally efficient. Additionally, we introduce an innovative alignment update and an adaptive strategy in the outer loop to further balance global model's performance and fairness. Theoretical analysis indicates that our approach guarantees convergence even in non-convex FL settings and demonstrates significant fairness improvements in generalized regression and strongly convex models. Empirically, our approach surpasses state-of-the-art federated fairness algorithms, ensuring consistent performance among clients while improving the overall performance of the global model.

研究动机与目标

• 解决由于非独立同分布（non-IID）数据和客户端能力差异导致的联邦学习性能差异问题。
• 在异构客户端环境中提升收敛速度与模型有效性。
• 确保所有客户端（尤其是本地损失较高的客户端）的公平贡献。
• 开发一种能实时适应客户端损失分布的动态聚合机制。

提出的方法

• 引入基于温度缩放的指数加权方案，根据本地损失值计算客户端重要性。
• 利用客户端损失向量与均匀引导向量之间的余弦相似度，判断是否需要进行公平性校正。
• 通过融合本地梯度与所有客户端梯度的加权平均值，实现公平的梯度更新，其中权重由基于损失的注意力机制生成。
• 采用混合更新规则进行本地训练，结合本地梯度与公平的全局梯度，以稳定优化过程。
• 使用基于损失感知的加权平均方法聚合客户端更新，其中权重由训练后的最终本地损失计算得出。
• 基于损失阈值动态选择客户端，并仅在检测到显著损失不平衡时应用公平性感知的聚合机制。

实验结果

研究问题

• RQ1 在非独立同分布数据和异构客户端性能条件下，如何公平地平衡客户端的贡献？
• RQ2 基于损失的注意力机制对异构联邦学习环境中收敛速度和模型准确率有何影响？
• RQ3 动态梯度加权能否在不牺牲训练效率或模型有效性的情况下提升公平性？
• RQ4 与标准 FedAvg 相比，所提方法在应对客户端数据异构性方面的鲁棒性如何？
• RQ5 基于熵的客户端选择在维持客户端参与度与性能平衡方面起到何种作用？

主要发现

• 在非独立同分布数据设置下，所提方法相比标准 FedAvg 实现了更快的收敛速度和更高的最终模型准确率。
• 本地损失较高的客户端始终被赋予更高的更新权重，从而实现客户端间性能的更均衡分布。
• 温度缩放的指数加权机制显著提升了对客户端漂移和数据不平衡的鲁棒性。
• 基于余弦相似度的动态阈值机制能有效识别是否需要进行公平性校正。
• 混合本地更新规则降低了优化不稳定性，提升了收敛稳定性。
• 实验结果表明，在非独立同分布基准数据集上，测试准确率显著提升，尤其在高异构性场景下表现突出。