[论文解读] TwinExplainer: Explaining Predictions of an Automotive Digital Twin

Subash Neupane, Ivan Fernandez+4 more|arXiv (Cornell University)|Feb 1, 2023

Machine Learning in Materials ScienceMaterials Science被引用 3

一句话总结

TwinExplainer 提出了一种三阶段可解释人工智能框架，利用基于 SHAP 的特征归因方法，解释基于深度学习的汽车数字孪生模型的预测结果。通过生成全局和局部解释（如效应图可视化），该方法增强了用户对车辆维护中预测结果的信任度，并支持更优决策，揭示了哪些传感器通道对系统正常或异常行为影响最大。

ABSTRACT

Vehicles are complex Cyber Physical Systems (CPS) that operate in a variety of environments, and the likelihood of failure of one or more subsystems, such as the engine, transmission, brakes, and fuel, can result in unscheduled downtime and incur high maintenance or repair costs. In order to prevent these issues, it is crucial to continuously monitor the health of various subsystems and identify abnormal sensor channel behavior. Data-driven Digital Twin (DT) systems are capable of such a task. Current DT technologies utilize various Deep Learning (DL) techniques that are constrained by the lack of justification or explanation for their predictions. This inability of these opaque systems can influence decision-making and raises user trust concerns. This paper presents a solution to this issue, where the TwinExplainer system, with its three-layered architectural pipeline, explains the predictions of an automotive DT. Such a system can assist automotive stakeholders in understanding the global scale of the sensor channels and how they contribute towards generic DT predictions. TwinExplainer can also visualize explanations for both normal and abnormal local predictions computed by the DT.

研究动机与目标

• 解决基于深度学习的汽车数字孪生模型可解释性不足的问题，该问题阻碍了其在关键维护应用中的用户信任与采纳。
• 克服当前先进深度学习模型在数字孪生中固有的黑箱特性，特别是在车辆等复杂信息物理系统中的应用。
• 使汽车相关利益相关者（如机械师、操作员和工程师）能够理解数字孪生为何将某个传感器通道判定为正常或异常。
• 构建一个系统化的端到端流程，集成数据处理、数字孪生推理与解释生成，实现实时车辆诊断。
• 使用特征重要性与 SHAP 值，提供模型预测的全局（系统级）与局部（实例级）解释。

提出的方法

• 采用三层架构流程：(1) 从 VePro 数据集摄取并预处理时间序列传感器数据，(2) 训练时间卷积网络（TCN）作为深度学习分类器用于异常检测，(3) 利用 Shapley 加法解释（SHAP）生成解释。
• 应用 SHAP 计算特征归因，量化每个传感器通道（如发动机冷却液温度、燃油消耗率）对模型预测输出的贡献程度。
• 通过效应图生成局部解释，可视化每个特征对特定预测的正向与负向影响，颜色编码的箭头表示影响的方向与大小。
• 使用汇总图与依赖图生成全局解释，展示整个数据集中特征的总体重要性与趋势。
• 在效应图中以基线值（训练集中平均预测值）作为参考点，帮助理解单个预测的上下文背景。
• 将正常与异常预测的可视化结果并排展示，以对比特征贡献，识别系统健康状态的关键指标。

Figure 1 : Process flow diagram for the TwinExplainer model. Sensor data collected from physical assets, such as vehicles, serves as the model’s initial input. After preprocessing the raw sensor data, it is fed into an anomaly detection DT model, which forecasts future time-series predictions. The e

实验结果

研究问题

• RQ1 如何使基于深度学习的汽车数字孪生模型的预测结果对非技术背景的利益相关者（如机械师与操作员）具有可解释性？
• RQ2 哪些传感器通道对数字孪生模型将系统状态分类为正常或异常的决策影响最大？
• RQ3 基于 SHAP 的特征归因能否有效解释汽车数字孪生中局部（实例特定）与全局（系统级）的预测结果？
• RQ4 在真实世界车辆数据集中，正常与异常系统状态下特征贡献有何差异？
• RQ5 可视化解释在多大程度上提升了用户对预测性车辆维护的信任度与决策能力？

主要发现

• 在正常预测（得分 0.63）的效应图中，TrOutShaftSp、EngCoolantTemp、FuelRate、AccelPedalPos、TransOilTemp 与 VehSpeedEng 对预测结果具有最显著的正向影响。
• 在同一正常预测中，InjCtlPres、PctEngLoad、TrSelGr、TransConvLockUpEngaged、BoostPres 与 IntManTemp 等特征对结果产生负向影响。
• 在异常预测（同样得分为 0.63）中，TrOutShaftSp 仍是影响最积极的特征，而 TransOilTemp 与 EngCoolantTemp 成为影响最负面的特征。
• 在正常预测中，InjCtlPres 是影响最负面的特征，而在异常情况下，TransOilTemp 是最具破坏性的特征。
• 可视化结果清晰展示了正常与异常状态下特征重要性的差异，使利益相关者能够识别关键故障指标。
• 该框架成功生成了全局与局部解释，其中效应图有效传达了特征对预测结果影响的方向与大小。

Figure 2 : A graphical representation of the TwinExpainer’s three-phase architecture. Raw sensor data is collected and stored during the physical asset phase. The data is then cleansed, transformed, and scaled in the digital twin stage. This phase generates high-quality data, which is then passed to