[论文解读] Towards Interpretable Federated Learning

Anran Li, Rui Liu+3 more|arXiv (Cornell University)|Feb 27, 2023

Privacy-Preserving Technologies in Data被引用 9

一句话总结

本文是可解释联邦学习（IFL）的首次综述，提出了一个分类法，分析了代表性的IFL方法、评估指标和未来方向。

ABSTRACT

Federated learning (FL) enables multiple data owners to build machine learning models collaboratively without exposing their private local data. In order for FL to achieve widespread adoption, it is important to balance the need for performance, privacy-preservation and interpretability, especially in mission critical applications such as finance and healthcare. Thus, interpretable federated learning (IFL) has become an emerging topic of research attracting significant interest from the academia and the industry alike. Its interdisciplinary nature can be challenging for new researchers to pick up. In this paper, we bridge this gap by providing (to the best of our knowledge) the first survey on IFL. We propose a unique IFL taxonomy which covers relevant works enabling FL models to explain the prediction results, support model debugging, and provide insights into the contributions made by individual data owners or data samples, which in turn, is crucial for allocating rewards fairly to motivate active and reliable participation in FL. We conduct comprehensive analysis of the representative IFL approaches, the commonly adopted performance evaluation metrics, and promising directions towards building versatile IFL techniques.

研究动机与目标

• 在隐私敏感、任务关键型应用场景中，激发对可解释联邦学习的需求。
• 提供涵盖客户端/样本/特征选择、模型优化和贡献评估的全面IFL分类法。
• 分析跨FL设置的代表性IFL方法、评估指标和隐私考量。
• 识别挑战并提出在FL中平衡可解释性、性能和隐私的方向。

提出的方法

• 提出一个建立在利益相关者角色和隐私保护基础之上的独特IFL分类法。
• 按阶段对IFL方法进行分类：客户端选择、样本选择、特征选择、模型优化和贡献评估。
• 在模型无关和模型特定范式中回顾可解释技术，包括基于激励的和鲁棒聚合方法。
• 综合评估指标，涵盖有效性（保真度、解释后性能）和效率（计算/通信成本）。
• 概述未来方向，如可解释模型提取、难样本感知IFL以及对复杂威胁模型的鲁棒性。

Figure 1: The proposed taxonomy for the IFL literature.

实验结果

研究问题

• RQ1 在可解释联邦学习中，关键组件和相关方有哪些？
• RQ2 哪种分类法能最好地涵盖现有的IFL方法及跨FL阶段的隐私考量？
• RQ3 在FL中，在客户端/样本/特征选择和模型优化方面，实现可解释性的主要方法有哪些？
• RQ4 应如何在有效性和效率方面评估IFL方法？
• RQ5 哪些未来方向可以推动可解释、私有化和鲁棒的FL系统？

主要发现

• IFL是跨学科的且具有挑战性，因为在FL中存在数据不可见性和资源限制。
• 跨五个阶段的IFL方法分类法和结构化综述为该领域提供了一个连贯的视角。
• 可解释技术涵盖客户端/样本/特征选择、模型构建、鲁棒聚合和贡献评估，既有模型无关也有模型特定的方法。
• 评估指标区分保真度与解释后性能（有效性）以及计算和通信成本（效率）。
• 确定的未来方向包括可解释模型提取、难样本感知、隐私保护的IFL，以及应对复杂威胁模型。