[論文レビュー] Grasping Causality for the Explanation of Criticality for Automated Driving

Tjark Koopmann, Christian Neurohr+4 more|arXiv (Cornell University)|Oct 27, 2022

Bayesian Modeling and Causal Inference被引用数 5

ひとこと要約

本論文は、ジュディア・ピアールの因果理論と臨界性分析を統合することで、自動運転の安全性に関する形式的因果モデリングフレームワークを提案する。これにより、摩擦の低下といった要因が安全に深刻なシナリオに与える因果的影響を特定・定量化できる。このフレームワークは、安全原則の証明可能な導出を可能とし、SAE Level 4/5システムにおける厳密でデータ駆動型の安全性の根拠を提供する。

ABSTRACT

The verification and validation of automated driving systems at SAE levels 4 and 5 is a multi-faceted challenge for which classical statistical considerations become infeasible. For this, contemporary approaches suggest a decomposition into scenario classes combined with statistical analysis thereof regarding the emergence of criticality. Unfortunately, these associational approaches may yield spurious inferences, or worse, fail to recognize the causalities leading to critical scenarios, which are, in turn, prerequisite for the development and safeguarding of automated driving systems. As to incorporate causal knowledge within these processes, this work introduces a formalization of causal queries whose answers facilitate a causal understanding of safety-relevant influencing factors for automated driving. This formalized causal knowledge can be used to specify and implement abstract safety principles that provably reduce the criticality associated with these influencing factors. Based on Judea Pearl's causal theory, we define a causal relation as a causal structure together with a context, both related to a domain ontology, where the focus lies on modeling the effect of such influencing factors on criticality as measured by a suitable metric. As to assess modeling quality, we suggest various quantities and evaluate them on a small example. As availability and quality of data are imperative for validly estimating answers to the causal queries, we also discuss requirements on real-world and synthetic data acquisition. We thereby contribute to establishing causal considerations at the heart of the safety processes that are urgently needed as to ensure the safe operation of automated driving systems.

研究の動機と目的

• SAE Level 4/5自動運転システムの安全性検証における相関的統計的手法の限界を解決すること。
• 特定の文脈的要因（例：摩擦の低下）が交通シナリオにおける臨界性に与える影響をモデル化する形式的因果フレームワークを提供すること。
• 臨界性を数学的に証明可能に低減する安全原則（SP）の導出を可能にすること。
• 自動運転システムの倫理的および規制要件を満たす因果的安全性根拠の基盤を構築すること。

提案手法

• ピアールのdo-計算に基づく構造的因果モデル（SCM）を用いて、ドメインオントロジー内での因果的問いを形式化する。
• 因果関係を因果構造（DAG）と文脈の組み合わせとして定義し、臨界性現象（CP）が臨界性指標に与える影響に焦点を当てる。
• do-計算による干渉を用いて、介入分布を推定し、臨界性への因果的影響を評価する。
• 因果モデル表現の品質を評価するための比較指標（例：因果効果の大きさ、モデル適合指標）を導入する。
• 実世界および合成データを活用して、調整集合のパラメータを推定し、モデル仮定の妥当性を検証する。
• 時間的依存性と進化する交通文脈を扱うために、動的因果モデルおよびモジュラー因果モデリングを提案する。

実験結果

リサーチクエスチョン

• RQ1 どのようにして因果的推論を自動運転システムの臨界性分析に形式的に統合し、誤った推論を回避できるか？
• RQ2 自動運転の安全性の文脈において、因果モデルの品質を評価するための形式的基準は何か？
• RQ3 どのようにして因果モデルを構造化することで、証明可能に効果的な安全原則の導出を可能にするか？
• RQ4 安全に深刻な走行シナリオにおける因果的影響を有効に推定するためのデータ要件は何か？
• RQ5 複数の臨界性現象の時間的依存性と相乗効果を扱うために、因果モデルをどのように拡張できるか？

主な発見

• 形式的因果フレームワークにより、特定の影響要因に関連する臨界性を数学的に証明可能に低減する安全原則の導出が可能になった。
• 提案手法は、相関関係ではなく因果的メカニズムに基づく根拠に基づいた、厳密な安全性の根拠を提供する。
• 摩擦係数の低下が縦方向および横方向加速度に与える因果的影響をモデル化する事例研究により、その実現可能性が示された。
• 効果の大きさや適合指標などの比較的量的指標を用いることで、因果モデルの品質を評価でき、モデルの反復的改善が可能になった。
• 本フレームワークは、将来的に動的およびモジュラー因果モデルへの拡張をサポートでき、複雑な交通相互作用や進化するシステム文脈を扱える。
• 本手法は、ドイツの倫理委員会が提唱する、人間運転と比較して被害を因果的に低減することを求める倫理的要件とも整合する。