[论文解读] Combining Federated and Active Learning for Communication-efficient Distributed Failure Prediction in Aeronautics

Nicolas Aussel, Sophie Chabridon+1 more|arXiv (Cornell University)|Jan 21, 2020

Privacy-Preserving Technologies in Data参考文献 21被引用 13

一句话总结

该论文提出了一种新颖的联邦主动学习框架，结合客户端的置信度决策树与中心化的集成模型聚合，实现在航空领域中通信高效、计算轻量的故障预测。该方法在严格的通信和计算约束下实现了61%的准确率——与最先进非分布式模型的准确率（62%）仅相差1%，表现出即使在极低标签预算（低至3%）下也具有高度稳定性。

ABSTRACT

Machine Learning has proven useful in the recent years as a way to achieve failure prediction for industrial systems. However, the high computational resources necessary to run learning algorithms are an obstacle to its widespread application. The sub-field of Distributed Learning offers a solution to this problem by enabling the use of remote resources but at the expense of introducing communication costs in the application that are not always acceptable. In this paper, we propose a distributed learning approach able to optimize the use of computational and communication resources to achieve excellent learning model performances through a centralized architecture. To achieve this, we present a new centralized distributed learning algorithm that relies on the learning paradigms of Active Learning and Federated Learning to offer a communication-efficient method that offers guarantees of model precision on both the clients and the central server. We evaluate this method on a public benchmark and show that its performances in terms of precision are very close to state-of-the-art performance level of non-distributed learning despite additional constraints.

研究动机与目标

• 解决航空系统在受限机载计算能力和昂贵数据链路条件下的实时故障预测挑战。
• 实现分布式学习，其中客户端（飞机）对正常数据执行轻量级分类，最大限度减少本地计算开销。
• 开发一种通信高效的机制，在严格带宽限制下仅传输来自飞机的不确定、高价值样本。
• 在不访问原始客户端数据的前提下于地面训练一个中心化、高精度的模型，以保护数据隐私并减少通信开销。
• 将主动学习与联邦学习范式整合为统一框架，同时满足上述三项约束条件。

提出的方法

• 在每个客户端（飞机）部署基于置信度的决策树（DTs），对正常数据进行最小计算量的分类，以满足R₁要求。
• 采用主动学习策略识别并仅向中心服务器传输不确定或模糊的样本，以最小化通信成本（R₂）。
• 在服务器端实现一个中心化集成模型，聚合客户端模型的预测结果，并作为指导主动采样的“权威”模型。
• 在本地决策树中引入宽限期参数，以防止过拟合并减少模型更新频率，从而提升跨通信轮次的稳定性。
• 通过使用一小部分完全标注的数据集（2.5%的数据）初始化系统，以启动性能，尤其在低请求预算下至关重要。
• 通过动态调整发送样本数量，平衡模型更新频率与通信预算，以适应不确定性和系统约束。

实验结果

研究问题

• RQ1 混合联邦-主动学习框架是否能在最小化通信与计算成本的同时，实现接近最先进水平的故障预测准确率？
• RQ2 在典型航空数据传输约束下，系统在极低标签预算（如0.1%至3%）下的表现如何？
• RQ3 本地决策树中的宽限期参数在多大程度上影响模型在各通信轮次中的稳定性与性能？
• RQ4 随着请求预算的增加，本地客户端模型（在数据链路中断期间作为备用）的性能如何演变？
• RQ5 尽管客户端频繁更新模型且数据部分可用，集成模型是否仍能保持高精确率与F1分数？

主要发现

• 所提方法实现了61%的测试准确率，与最先进非分布式模型的准确率（62%）仅相差1%，证明了在分布式约束下具有强大性能。
• 在不同通信预算下性能高度稳定，当请求预算从0.1%提高到10%时，准确率仅从56%上升至59%，增幅仅3%。
• 在高通信轮次中，系统保持一致的F1分数（30%），表明尽管宽限期过长可能导致模型更新频率问题，系统仍具鲁棒性。
• 将宽限期从100降低至30，显著提升了高通信轮次下的性能，证实模型更新频率对稳定性具有显著影响。
• 在高请求预算下，本地决策树的平均召回率达到37%，表明在数据链路中断期间具备强大的备用能力。
• 使用2.5%数据集进行初始化，可使系统在极低标签预算（如0.1%）下仍实现有效性能，证明了其在真实航空应用中的可行性。