[论文解读] A Review of Explainable Artificial Intelligence in Manufacturing

Georgios Sofianidis, Jože M. Rožanec+2 more|arXiv (Cornell University)|Jul 5, 2021

Explainable Artificial Intelligence (XAI)参考文献 48被引用 4

一句话总结

本文综述了制造领域可解释人工智能（XAI）技术，提出了一种基于模型无关与模型特定方法的分类体系，以提升人工智能驱动工业系统中的透明度与可信度。通过定性与定量指标评估XAI，展示了其在质量控制、成本估算和网络安保中的应用，并强调了以用户为中心的解释在实现面向工业5.0的人机协作中的关键作用。

ABSTRACT

The implementation of Artificial Intelligence (AI) systems in the manufacturing domain enables higher production efficiency, outstanding performance, and safer operations, leveraging powerful tools such as deep learning and reinforcement learning techniques. Despite the high accuracy of these models, they are mostly considered black boxes: they are unintelligible to the human. Opaqueness affects trust in the system, a factor that is critical in the context of decision-making. We present an overview of Explainable Artificial Intelligence (XAI) techniques as a means of boosting the transparency of models. We analyze different metrics to evaluate these techniques and describe several application scenarios in the manufacturing domain.

研究动机与目标

• 为解决制造领域AI模型的不透明性问题，该问题削弱了用户信任与决策可靠性。
• 基于可解释性来源、作用范围与模型依赖性，对XAI技术进行分类与分析。
• 采用定性与定量指标评估XAI方法，以评估其在工业场景中的适用性。
• 展示XAI在质量检测、生产规划、成本估算与网络安全中的实际应用。
• 倡导以用户为导向的XAI集成，确保解释内容符合领域专家与操作人员的实际需求。

提出的方法

• 提出一个三维XAI分类体系，基于：(1) 可解释性来源（内在式 vs. 事后式），(2) 作用范围（全局式 vs. 局部式），以及(3) 模型依赖性（模型无关式 vs. 模型特定式）。
• 综述并分类XAI技术，如类激活映射（CAM）、基于梯度的显著性图、Layer-wise Relevance Propagation（LRP）、综合梯度法与引导反向传播，用于图像任务中的可视化解释。
• 提出一种情境感知解释框架，结合用户档案、目标与关注点（局部/全局），以针对不同利益相关者定制解释。
• 应用模型无关方法如LIME与SHAP，用于表格数据与图像数据中的特征重要性分析与局部解释生成。
• 在XAI应用中集成反馈机制，支持用户验证并实现解释的迭代优化。
• 采用3D梯度加权CAM技术，可视化影响CAD模型成本的特征，实现可解释的制造成本估算。

实验结果

研究问题

• RQ1 如何在制造AI系统背景下，系统性地对XAI技术进行分类与评估？
• RQ2 在基于图像的质量检测与缺陷识别中，哪些XAI方法最有效提升模型透明度？
• RQ3 不同类型的解释（如视觉、文本、基于特征的）如何支持不同制造岗位的决策制定？
• RQ4 XAI在哪些方面可提升工业AI的信任度与安全性，特别是在检测数据投毒与模型漏洞方面？
• RQ5 如何将XAI整合到实际制造工作流程中，以支持工业5.0中的人机协作？

主要发现

• LRP与引导反向传播等XAI技术生成了分布均匀的热力图，在缺陷分类任务中有效突出图像中的相关区域。
• 将黑箱模型预测转化为决策树，生成了人类可读的文本解释，为领域专家提供了最高水平的可解释性。
• 3D梯度加权CAM成功可视化了影响制造成本的机加工特征，为设计优化提供了可操作的洞察。
• CAM与对比梯度显著性图等XAI方法提升了超声波焊接质量评估中的模型可解释性，有效区分了真正阳性与假阳性结果。
• 在网络安全领域，XAI能够识别被污染的数据样本与模型漏洞，支持在智能制造系统中早期检测数据投毒攻击。
• 通过用户反馈对本地解释进行应用导向的评估表明，交互式、情境感知的解释显著提升了用户信任度与系统可用性。