[论文解读] Grasping Causality for the Explanation of Criticality for Automated Driving

Tjark Koopmann, Christian Neurohr+4 more|arXiv (Cornell University)|Oct 27, 2022

Bayesian Modeling and Causal Inference被引用 5

一句话总结

本文通过将朱迪亚·珀尔的因果理论与临界性分析相结合，提出了一套用于自动驾驶安全的正式因果建模框架，以识别并量化诸如摩擦减小等因果影响对安全关键场景的作用。该框架支持可证明的安全原则推导，并为 SAE 等级 4/5 系统提供严谨、数据驱动的安全论证。

ABSTRACT

The verification and validation of automated driving systems at SAE levels 4 and 5 is a multi-faceted challenge for which classical statistical considerations become infeasible. For this, contemporary approaches suggest a decomposition into scenario classes combined with statistical analysis thereof regarding the emergence of criticality. Unfortunately, these associational approaches may yield spurious inferences, or worse, fail to recognize the causalities leading to critical scenarios, which are, in turn, prerequisite for the development and safeguarding of automated driving systems. As to incorporate causal knowledge within these processes, this work introduces a formalization of causal queries whose answers facilitate a causal understanding of safety-relevant influencing factors for automated driving. This formalized causal knowledge can be used to specify and implement abstract safety principles that provably reduce the criticality associated with these influencing factors. Based on Judea Pearl's causal theory, we define a causal relation as a causal structure together with a context, both related to a domain ontology, where the focus lies on modeling the effect of such influencing factors on criticality as measured by a suitable metric. As to assess modeling quality, we suggest various quantities and evaluate them on a small example. As availability and quality of data are imperative for validly estimating answers to the causal queries, we also discuss requirements on real-world and synthetic data acquisition. We thereby contribute to establishing causal considerations at the heart of the safety processes that are urgently needed as to ensure the safe operation of automated driving systems.

研究动机与目标

• 解决关联性统计方法在 SAE 等级 4/5 自动驾驶系统安全验证中的局限性。
• 提供一个正式的因果框架，用于建模特定情境因素（如摩擦减小）对交通场景临界性的影响。
• 支持推导出可数学证明能降低临界性的安全原则（SPs）。
• 为符合自动驾驶系统伦理与监管要求的因果安全论证奠定基础。

提出的方法

• 基于珀尔的 do-演算，使用结构因果模型（SCMs）在领域本体中形式化因果查询。
• 将因果关系定义为因果结构（DAG）与情境的组合，重点关注临界性现象（CP）对临界性度量的影响。
• 使用 do-演算干预方法估计干预分布，并评估对临界性的因果效应。
• 引入比较度量（如因果效应大小、模型拟合指数）以评估因果模型表征的质量。
• 利用真实世界与合成数据估计调整集参数并验证模型假设。
• 提出动态因果模型与模块化因果建模方法，以处理时间依赖性与不断演变的交通情境。

实验结果

研究问题

• RQ1 如何正式地将因果推理整合到自动驾驶系统的临界性分析中，以避免虚假推论？
• RQ2 在自动驾驶安全背景下，可使用哪些正式标准来评估因果模型的质量？
• RQ3 如何构建因果模型以支持可证明有效的安全原则的推导？
• RQ4 在安全关键驾驶场景中，有效估计因果效应的数据需求是什么？
• RQ5 如何将因果模型扩展以处理时间依赖性以及多个临界性现象之间的协同效应？

主要发现

• 正式因果框架能够推导出可数学证明能降低特定影响因素相关临界性的安全原则。
• 所提出的方法通过将临界性缓解建立在因果机制而非统计关联之上，支持严谨的安全论证。
• 关于摩擦系数减小的案例研究证明了其对所需纵向与侧向加速度因果效应建模的可行性。
• 可通过效应大小、拟合度量等比较量对模型质量进行评估，从而实现因果模型的迭代优化。
• 该框架支持未来向动态与模块化因果模型的扩展，可适应复杂的交通交互与不断演变的系统情境。
• 该方法符合自动驾驶系统伦理要求，例如德国伦理委员会关于与人类驾驶相比应实现伤害因果性减少的规定。