[论文解读] Explainable AI (XAI) for PHM of Industrial Asset: A State-of-The-Art, PRISMA-Compliant Systematic Review

Ahmad Kamal Bin Mohd Nor, Srinivasa Rao Pedapati+1 more|arXiv (Cornell University)|Jul 8, 2021

Explainable Artificial Intelligence (XAI)参考文献 43被引用 13

一句话总结

本篇符合PRISMA指南的系统性综述整合了2015至2021年间关于工业资产预测性维护与健康管理（PHM）中可解释人工智能（XAI）的前沿研究。研究发现，XAI在PHM中的应用日益广泛，能够在保持强大预测性能的同时提升模型可解释性，且在人类参与、评估指标和不确定性量化方面存在明显研究空白，尤其是在实际工业应用场景中。

ABSTRACT

A state-of-the-art systematic review on XAI applied to Prognostic and Health Management (PHM) of industrial asset is presented. This work provides an overview of the general trend of XAI in PHM, answers the question of accuracy versus explainability, the extent of human involvement, the explanation assessment and uncertainty quantification in PHM-XAI domain. Research articles associated with the subject, from 2015 to 2021 were selected from five known databases following PRISMA guidelines. Data was then extracted from the selected articles and examined. Several findings were synthesized. Firstly, while the discipline is still young, the analysis indicated the growing acceptance of XAI in PHM domain. Secondly, XAI functions as a double edge sword, where it is assimilated as a tool to execute PHM tasks as well as a mean of explanation, particularly in diagnostic and anomaly detection activities, implying a real need for XAI in PHM. Thirdly, the review showed that PHM-XAI papers produce either good or excellent result in general, suggesting that PHM performance is unaffected by XAI. Fourthly, human role, evaluation metrics and uncertainty management are areas requiring further attention by the PHM community. Adequate assessment metrics to cater for PHM need are urgently needed.Finally, most case study featured on the accepted articles are based on real, industrial data, indicating that the available PHM-XAI blends are fit to solve complex,real-world challenges, increasing the confidence in AI adoption in the industry.

研究动机与目标

• 评估工业资产预测性维护与健康管理（PHM）中XAI集成的当前状态。
• 评估PHM-XAI应用中模型准确率与可解释性之间的权衡。
• 考察人类在XAI驱动的PHM系统中的作用。
• 识别PHM-XAI研究中解释评估与不确定性量化方面的研究缺口。
• 通过工业数据集评估PHM-XAI解决方案在实际场景中的适用性。

提出的方法

• 基于PRISMA指南，在五个主要学术数据库中开展系统性文献综述。
• 筛选2015至2021年间发表的、聚焦于工业资产PHM中XAI的同行评审论文。
• 提取有关模型性能、解释技术、人机协同参与及评估指标的数据。
• 通过主题分析综合研究发现，涵盖趋势、性能结果与方法论缺口。
• 评估实际工业数据集的使用情况，以评估其实际相关性与可扩展性。
• 根据XAI技术在诊断、异常检测和预测任务中的应用进行分类。

实验结果

研究问题

• RQ1 2015至2021年期间，XAI在工业PHM中的主导趋势与应用领域是什么？
• RQ2 XAI的集成如何影响PHM模型的准确率与可靠性？
• RQ3 在XAI增强的PHM系统中，人类参与在多大程度上是必需或有益的？
• RQ4 当前用于评估PHM-XAI系统中解释质量的评估指标有哪些？
• RQ5 现有PHM-XAI研究中，如何量化与管理不确定性？

主要发现

• XAI在PHM中的集成正在迅速增长，表明其在工业应用中日益被接受并趋于成熟。
• PHM-XAI模型持续表现出良好至优异的性能，表明可解释性不会损害预测准确性。
• XAI既被用作PHM任务的工具，也被用作解释机制，尤其在诊断与异常检测工作流中。
• 大量案例研究基于真实工业数据，证明了当前PHM-XAI解决方案的实际可行性与工业相关性。
• 缺乏针对PHM特定需求的标准化评估指标，凸显了关键的研究缺口。
• 不确定性量化与人机协同评估仍发展不足，未来研究需进一步关注相关方法论。