[论文解读] FederatedTrust: A Solution for Trustworthy Federated Learning

Pedro Miguel Sánchez Sánchez, Alberto Huertas Celdrán+4 more|arXiv (Cornell University)|Feb 20, 2023

Privacy-Preserving Technologies in Data被引用 4

一句话总结

FederatedTrust 提出了一套全面的联邦学习（FL）可信性分类法，包含六个支柱——隐私、鲁棒性、公平性、可解释性、问责制和联邦化——以及三十余项指标。该研究提出了一种算法及原型，集成于 FederatedScope 中，用于计算整体可信度得分，通过使用 FEMNIST 和 N-BaIoT 数据集的五个实验进行了验证，展示了其在不同配置下评估 FL 模型可信性的实用性。

ABSTRACT

The rapid expansion of the Internet of Things (IoT) and Edge Computing has presented challenges for centralized Machine and Deep Learning (ML/DL) methods due to the presence of distributed data silos that hold sensitive information. To address concerns regarding data privacy, collaborative and privacy-preserving ML/DL techniques like Federated Learning (FL) have emerged. However, ensuring data privacy and performance alone is insufficient since there is a growing need to establish trust in model predictions. Existing literature has proposed various approaches on trustworthy ML/DL (excluding data privacy), identifying robustness, fairness, explainability, and accountability as important pillars. Nevertheless, further research is required to identify trustworthiness pillars and evaluation metrics specifically relevant to FL models, as well as to develop solutions that can compute the trustworthiness level of FL models. This work examines the existing requirements for evaluating trustworthiness in FL and introduces a comprehensive taxonomy consisting of six pillars (privacy, robustness, fairness, explainability, accountability, and federation), along with over 30 metrics for computing the trustworthiness of FL models. Subsequently, an algorithm named FederatedTrust is designed based on the pillars and metrics identified in the taxonomy to compute the trustworthiness score of FL models. A prototype of FederatedTrust is implemented and integrated into the learning process of FederatedScope, a well-established FL framework. Finally, five experiments are conducted using different configurations of FederatedScope to demonstrate the utility of FederatedTrust in computing the trustworthiness of FL models. Three experiments employ the FEMNIST dataset, and two utilize the N-BaIoT dataset considering a real-world IoT security use case.

研究动机与目标

• 为解决在真实世界部署中，联邦学习可信性需求超越数据隐私的日益增长的需求。
• 识别并形式化适用于联邦学习的可信性支柱与指标，扩展现有人工智能可信性框架的范围。
• 设计并实现一种灵活、可扩展的算法——FederatedTrust，用于计算 FL 模型的整体可信度得分。
• 在 FederatedScope FL 框架中对原型进行验证，涵盖多种配置，包括差分隐私和客户端选择策略。
• 通过使用真实世界数据集的实际实验，证明系统性可信度评估在联邦学习中的可行性和实用性。

提出的方法

• 构建了适用于可信联邦学习的六支柱分类法：隐私、鲁棒性、公平性、可解释性、问责制和联邦化，每个支柱均包含具体子概念与指标。
• 在各支柱下定义了三十余项可量化的指标，包括客户端声誉、选择公平性、模型准确率以及数据不平衡指标等。
• 设计了 FederatedTrust 算法，通过使用可配置权重聚合各项指标得分，计算全局可信度得分。
• 将该算法实现为原型，集成至 FederatedScope FL 框架中，以支持训练过程中的实时可信度评估。
• 采用加权聚合策略，支持根据部署环境和利益相关者优先级动态调整配置。
• 开展了五项实验，涵盖不同客户端数量、选择率、训练轮次以及差分隐私参数，以评估可信度得分的动态变化。

实验结果

研究问题

• RQ1 如何在超越数据隐私的基础上，系统性地评估联邦学习中的可信性？
• RQ2 哪些是最相关且适用于联邦学习模型的可信性支柱与指标？
• RQ3 统一且可配置的框架能否有效计算不同配置下 FL 模型的整体可信度得分？
• RQ4 不同的联邦学习配置（如客户端选择、差分隐私）如何影响计算出的可信度水平？
• RQ5 FederatedTrust 算法在多大程度上能够检测并反映诸如偏差、数据不平衡或模型漂移等可信相关问题？

主要发现

• FederatedTrust 原型在多种联邦学习配置下成功计算了可信度得分，展示了其适应性和可配置性。
• 实验表明，差分隐私和客户端选择公平性对整体可信度得分有显著影响，凸显了模型设计中的权衡。
• 联邦化支柱——评估参与者与模型可信度——为系统级可靠性与协作动态提供了独特洞察。
• 可信度得分对数据不平衡和模型漂移敏感，客户端参与度变化与模型准确率等指标与可信度水平表现出强相关性。
• 该算法能够检测到在非独立同分布（non-iid）数据上训练的模型性能下降，尤其是在结合差分隐私时，表明其对现实联邦学习挑战的高度敏感性。
• 原型在 FederatedScope 中的集成实现了可信度的实时监控，证明其在类生产环境中的可行性。