[論文レビュー] Explainable Human-in-the-loop Dynamic Data-Driven Digital Twins

Nan Zhang, Rami Bahsoon+2 more|arXiv (Cornell University)|Jul 19, 2022

Digital Transformation in Industry参考文献 17被引用数 8

ひとこと要約

本論文は、動的データ駆動型アプリケーションシステム（DDDAS）フィードバックループを活用し、解釈可能な機械学習と目的モデリングを用いて、意思決定のための文脈に即した説明を生成する、説明可能で人間が関与するデジタルツインアーキテクチャを提案する。主な貢献は、説明可能性に重要な意思決定ポイントを特定し、利便性と人間の認知的負担のバランスをとる参照アーキテクチャを提示することであり、適応的モデル選択と異常検出を伴うスマート倉庫における応用性を示している。

ABSTRACT

Digital Twins (DT) are essentially dynamic data-driven models that serve as real-time symbiotic "virtual replicas" of real-world systems. DT can leverage fundamentals of Dynamic Data-Driven Applications Systems (DDDAS) bidirectional symbiotic sensing feedback loops for its continuous updates. Sensing loops can consequently steer measurement, analysis and reconfiguration aimed at more accurate modelling and analysis in DT. The reconfiguration decisions can be autonomous or interactive, keeping human-in-the-loop. The trustworthiness of these decisions can be hindered by inadequate explainability of the rationale, and utility gained in implementing the decision for the given situation among alternatives. Additionally, different decision-making algorithms and models have varying complexity, quality and can result in different utility gained for the model. The inadequacy of explainability can limit the extent to which humans can evaluate the decisions, often leading to updates which are unfit for the given situation, erroneous, compromising the overall accuracy of the model. The novel contribution of this paper is an approach to harnessing explainability in human-in-the-loop DDDAS and DT systems, leveraging bidirectional symbiotic sensing feedback. The approach utilises interpretable machine learning and goal modelling to explainability, and considers trade-off analysis of utility gained. We use examples from smart warehousing to demonstrate the approach.

研究の動機と目的

• 人間が関与するデジタルツイン（DT）における説明可能性の欠如、特に短期的には直感的でないか、最適でないが長期的には有益な意思決定の問題に対処すること。
• 人間の信頼性とシステムの信頼性を確保する上で説明が不可欠となる、特にDDDASフィードバックループにおける重要なシステム領域を特定すること。
• 説明可能性プリミティブをDTに統合する参照アーキテクチャを設計し、意思決定の正当化と利便性のトレードオフを明示的にサポートする、先行研究の延長を図ること。
• 説明の提供に伴う計算コスト、人間の認知的負担、システム利便性のトレードオフを評価すること。
• 人間と機械の協働が不可欠なスマート倉庫などの実世界のシナリオで、このアプローチを検証すること。

提案手法

• データ中心の戦略を用いて、DDDASに基づくDTにおける説明が特に重要となる意思決定ポイントを同定し、データ入力に遡及する適応意思決定に焦点を当てる。
• 解釈可能な機械学習モデル（例：決定木）と目的モデリングを用いて、コントローラーの意思決定を人間が理解可能な形で説明する。
• 適応的セレクタ、アップデータ、意思決定コントローラの3つのコントローラーを備えた参照アーキテクチャを導入し、それぞれの意思決定論理に連動した説明機能を強化する。
• シナリオベースのアーキテクチャ評価（例：ATAM）を適用し、説明可能性がコンプライアンス、デバッグ、透明性といったシステム品質属性に与える影響を評価する。
• 説明のコスト（例：人間の遅延、計算オーバーヘッド）と利益（例：エラーの低減、信頼性の向上）のトレードオフを分析する。
• AnyLogicを用いたプロトタイプのエージェントベースモデルを用いて、人間が関与する意思決定支援を伴うスマート倉庫物流をシミュレートすることで、フレームワークを検証する。

実験結果

リサーチクエスチョン

• RQ1 DDDASに基づくデジタルツインアーキテクチャにおいて、人間の信頼性とシステム信頼性を確保するために、説明が最も重要となる箇所はどこか？
• RQ2 解釈可能な機械学習と目的モデリングをどのようにDTコントローラーに統合し、文脈に即した実行可能な説明を生成できるか？
• RQ3 説明の提供（例：意思決定品質の向上）とそれによる人間の作業負荷やシステムパフォーマンスへの影響のトレードオフは何か？
• RQ4 説明可能性の統合が、リアルタイムのDTシステムにおける動的モデル適応の利便性と正しさにどのように影響するか？
• RQ5 説明可能性は、自律的デジタルツインシステムにおける人間の監視と干渉をどの程度向上できるか？

主な発見

• 提示された参照アーキテクチャは、モデル選択、パrameterキャリブレーション、アクション選択という3つの主要な意思決定ポイントを的確に特定し、説明可能性が信頼性とシステムの透明性を顕著に向上させることを示した。
• 説明は、短期的には最適でないが長期的には戦略的である意思決定を人間が区別するのを支援し、強化学習に基づくDTにおいて特に有効である。
• 頻繁な説明は、異常（例：誤ったキャリブレーショントリガー）の誤解を減らすが、同時にユーザーの疲労を引き起こし、体験品質の低下を招く可能性がある。
• 計算コストと人間の認知的負担のトレードオフは非自明である。最適な説明頻度は、信頼性と使いやすさの両立を図る必要がある。
• シナリオベースの評価により、説明可能性がコンプライアンスの向上、フォレンジックデバッグの支援、データ駆動型意思決定チェーンの透明性向上に寄与することが確認された。
• AnyLogicにおけるプロトタイプ実装により、リアルタイムのデジタルツインシステムに説明可能なコントローラーを統合する可能性が実証された。