[论文解读] Explainable Human-in-the-loop Dynamic Data-Driven Digital Twins

Nan Zhang, Rami Bahsoon+2 more|arXiv (Cornell University)|Jul 19, 2022

Digital Transformation in Industry参考文献 17被引用 8

一句话总结

本文提出了一种可解释的、人机协同的数字孪生架构，利用动态数据驱动应用系统（DDDAS）反馈回路，结合可解释机器学习与目标建模，为决策提供情境感知的解释。主要贡献在于提出了一种参考架构，可识别可解释性关键决策点，平衡实用性与人类认知成本，并在智能仓储场景中展示了其在自适应模型选择与异常检测方面的适用性。

ABSTRACT

Digital Twins (DT) are essentially dynamic data-driven models that serve as real-time symbiotic "virtual replicas" of real-world systems. DT can leverage fundamentals of Dynamic Data-Driven Applications Systems (DDDAS) bidirectional symbiotic sensing feedback loops for its continuous updates. Sensing loops can consequently steer measurement, analysis and reconfiguration aimed at more accurate modelling and analysis in DT. The reconfiguration decisions can be autonomous or interactive, keeping human-in-the-loop. The trustworthiness of these decisions can be hindered by inadequate explainability of the rationale, and utility gained in implementing the decision for the given situation among alternatives. Additionally, different decision-making algorithms and models have varying complexity, quality and can result in different utility gained for the model. The inadequacy of explainability can limit the extent to which humans can evaluate the decisions, often leading to updates which are unfit for the given situation, erroneous, compromising the overall accuracy of the model. The novel contribution of this paper is an approach to harnessing explainability in human-in-the-loop DDDAS and DT systems, leveraging bidirectional symbiotic sensing feedback. The approach utilises interpretable machine learning and goal modelling to explainability, and considers trade-off analysis of utility gained. We use examples from smart warehousing to demonstrate the approach.

研究动机与目标

• 为解决人机协同数字孪生（DT）中可解释性不足的问题，特别是在决策看似反直觉或短期次优但长期有益的情况下。
• 识别关键系统区域——尤其是DDDAS反馈回路——在这些区域中，解释对于人类信任与系统可靠性至关重要。
• 设计一种参考架构，将可解释性原语整合进数字孪生系统，扩展现有工作，明确支持决策理由说明与效用权衡。
• 评估提供解释所带来的计算成本、人类认知负荷与系统效用之间的权衡。
• 在真实场景（如智能仓储）中验证该方法，其中人机协作对系统运行至关重要。

提出的方法

• 采用以数据为中心的策略，识别DDDAS驱动的数字孪生系统中可解释性最为关键的决策点，重点关注可追溯至数据输入的适应性决策。
• 采用可解释机器学习模型（如决策树）与目标建模，生成人类可理解的控制器决策解释。
• 提出一种参考架构，包含三个控制器——自适应选择器、更新器与决策控制器——每个控制器均增强了解释能力，并与各自的决策逻辑相连接。
• 应用基于场景的架构评估方法（如ATAM），评估可解释性对系统质量属性（如合规性、可调试性与透明度）的影响。
• 开展解释成本（如人为延迟、计算开销）与收益（如错误减少、信任提升）之间的权衡分析。
• 通过AnyLogic中的原型基于代理的模型进行验证，模拟人机协同支持的智能仓储物流系统。

实验结果

研究问题

• RQ1 在基于DDDAS的数字孪生架构中，解释在何处最为关键，以确保人类信任与系统可靠性？
• RQ2 如何将可解释机器学习与目标建模整合进数字孪生控制器，以生成情境感知、可操作的解释？
• RQ3 提供解释所带来的权衡（如提升决策质量）与对人类工作负荷及系统性能的影响是什么？
• RQ4 可解释性如何影响实时数字孪生系统中动态模型自适应的效用与正确性？
• RQ5 可解释性在多大程度上能提升人类对自主数字孪生系统的监督与干预能力？

主要发现

• 所提出的参考架构成功识别出三个关键决策点——模型选择、参数校准与动作选择——在这些点上，可解释性显著提升了信任度与系统透明度。
• 解释帮助人类区分短期次优与长期战略决策，尤其在基于强化学习的数字孪生系统中表现明显。
• 频繁的解释可减少对异常的误读（如虚假校准触发），但也可能导致用户疲劳，降低用户体验质量。
• 计算成本与人类认知成本之间的权衡并非微不足道：最优解释频率必须在可靠性与可用性之间取得平衡。
• 基于场景的评估证实，可解释性提升了合规性，支持取证式调试，并增强了数据驱动决策链的透明度。
• 在AnyLogic中的原型实现证明了将可解释控制器集成进实时数字孪生系统以支持智能物流的可行性。