[论文解读] A Neuro-Symbolic Explainer for Rare Events: A Case Study on Predictive Maintenance

João Gama, Rita P. Ribeiro+3 more|arXiv (Cornell University)|Apr 21, 2024

Cognitive Science and Education ResearchNeuroscience被引用 3

一句话总结

本文提出了一种神经符号框架，结合无监督LSTM自编码器用于在线异常检测，以及一种在线规则学习算法，以解释高重建误差——这对预测性维护中的罕见故障事件至关重要。该系统通过将传感器级特征与故障信号关联，提供可解释的、可操作的局部和全局解释，成功检测到真实世界波尔图地铁案例研究中的所有列车故障，并识别出此前未知的异常行为。

ABSTRACT

Predictive Maintenance applications are increasingly complex, with interactions between many components. Black box models are popular approaches based on deep learning techniques due to their predictive accuracy. This paper proposes a neural-symbolic architecture that uses an online rule-learning algorithm to explain when the black box model predicts failures. The proposed system solves two problems in parallel: anomaly detection and explanation of the anomaly. For the first problem, we use an unsupervised state of the art autoencoder. For the second problem, we train a rule learning system that learns a mapping from the input features to the autoencoder reconstruction error. Both systems run online and in parallel. The autoencoder signals an alarm for the examples with a reconstruction error that exceeds a threshold. The causes of the signal alarm are hard for humans to understand because they result from a non linear combination of sensor data. The rule that triggers that example describes the relationship between the input features and the autoencoder reconstruction error. The rule explains the failure signal by indicating which sensors contribute to the alarm and allowing the identification of the component involved in the failure. The system can present global explanations for the black box model and local explanations for why the black box model predicts a failure. We evaluate the proposed system in a real-world case study of Metro do Porto and provide explanations that illustrate its benefits.

研究动机与目标

• 解决预测性维护中罕见故障事件的黑箱深度学习模型缺乏可解释性AI的问题。
• 开发一种在线、并行系统，同时检测异常并解释其成因。
• 使维护团队能够通过从传感器数据中提取的可解释规则，识别根本原因并采取针对性措施。
• 通过将复杂模型输出转化为人类可理解的洞察，提升工业维护中的信任度和决策能力。
• 在真实世界公共交通环境中，展示该框架在罕见、高影响故障中的有效性。

提出的方法

• 在正常运行数据上训练无监督LSTM自编码器，通过高重建误差检测异常。
• 并行训练一种规则学习算法（AMRules结合切比雪夫采样），以建模从输入特征到高重建误差的映射关系。
• 系统采用在线学习方法，适应流式数据，保持实时检测和解释能力。
• 对重建误差应用切比雪夫采样，聚焦于罕见的高误差案例——这对故障检测至关重要。
• 规则模型通过识别对警报贡献最大的传感器，生成局部解释，实现根本原因识别。
• 该框架紧密集成神经与符号组件，规则作为黑箱自编码器行为的可解释模型。

实验结果

研究问题

• RQ1 如何实时解释深度学习自编码器在预测性维护罕见事件中生成的故障信号？
• RQ2 在线规则学习系统能否有效建模并解释LSTM自编码器产生的高重建误差？
• RQ3 该神经符号系统提供的局部和全局解释如何支持工业环境中的维护决策？
• RQ4 该系统在多大程度上能检测到传统基于规则的方法无法捕捉的罕见故障？
• RQ5 该系统能否发现制造商技术文档中未记录的设备中先前未知的异常行为？

主要发现

• 该系统成功检测到维护日志中报告的所有列车故障，包括导致停运的故障。
• 基于规则的解释层识别出特定传感器（如H1和Towers用于空气泄漏，Oil Level用于油泄漏），实现精确的根本原因诊断。
• 所有故障均未被AMRules单独捕获，证明了深度学习与符号规则学习结合的必要性。
• 该模型发现了设备技术文档中未描述的意外APU异常行为，凸显其检测新型异常的能力。
• 维护工程师确认，该解释显著提升了对APU行为的理解，并支持了更明智的维修规划。
• 将切比雪夫采样与规则学习相结合，显著增强了模型从罕见、高影响故障案例中学习的能力。