[논문 리뷰] Grasping Causality for the Explanation of Criticality for Automated Driving

Tjark Koopmann, Christian Neurohr외 4명|arXiv (Cornell University)|2022. 10. 27.

Bayesian Modeling and Causal Inference인용 수 5

한 줄 요약

이 논문은 유다 펄의 원인 이론을 비판적 분석과 융합하여 자율주행 안전을 위한 형식적 원인 모델링 프레임워크를 제안한다. 이는 감소된 마찰과 같은 원인 영향을 식별하고 정량화하여 안전이 중요한 시나리오에 영향을 미친다. 이는 증명 가능한 안전 원칙 유도를 가능하게 하며, SAE 레벨 4/5 시스템에 대한 엄밀하고 데이터 기반의 안전 논증을 지원한다.

ABSTRACT

The verification and validation of automated driving systems at SAE levels 4 and 5 is a multi-faceted challenge for which classical statistical considerations become infeasible. For this, contemporary approaches suggest a decomposition into scenario classes combined with statistical analysis thereof regarding the emergence of criticality. Unfortunately, these associational approaches may yield spurious inferences, or worse, fail to recognize the causalities leading to critical scenarios, which are, in turn, prerequisite for the development and safeguarding of automated driving systems. As to incorporate causal knowledge within these processes, this work introduces a formalization of causal queries whose answers facilitate a causal understanding of safety-relevant influencing factors for automated driving. This formalized causal knowledge can be used to specify and implement abstract safety principles that provably reduce the criticality associated with these influencing factors. Based on Judea Pearl's causal theory, we define a causal relation as a causal structure together with a context, both related to a domain ontology, where the focus lies on modeling the effect of such influencing factors on criticality as measured by a suitable metric. As to assess modeling quality, we suggest various quantities and evaluate them on a small example. As availability and quality of data are imperative for validly estimating answers to the causal queries, we also discuss requirements on real-world and synthetic data acquisition. We thereby contribute to establishing causal considerations at the heart of the safety processes that are urgently needed as to ensure the safe operation of automated driving systems.

연구 동기 및 목표

• SAE 레벨 4/5 자율주행 시스템의 안전 검증에서 연관 통계 방법의 한계를 해결한다.
• 특정 맥락적 요인(예: 감소된 마찰)이 교통 시나리오의 비판성에 미치는 영향을 모델링하기 위한 형식적 원인 프레임워크를 제공한다.
• 비판성 감소를 수학적으로 증명할 수 있는 안전 원칙(SP)의 도출을 가능하게 한다.
• 자율 시스템의 윤리적 및 규제 요구사항을 충족하는 원인 기반 안전 논증 기반을 마련한다.

제안 방법

• 펄의 do-계산법에 기반한 구조적 원인 모델(SCM)을 사용하여 도메인 온톨로지 내 원인 질문을 형식화한다.
• 원인 관계를 원인 구조(DAG)와 맥락의 조합으로 정의하며, 비판적 현상(CP)이 비판적 지표에 미치는 영향에 중점을 둔다.
• do-계산법 간섭을 사용하여 간섭 분포를 추정하고 비판성에 대한 원인 효과를 평가한다.
• 원인 모델 표현의 품질을 평가하기 위해 비교적 척도(예: 원인 효과 크기, 모델 적합도 지표)를 도입한다.
• 실제 및 합성 데이터를 활용하여 조정 집합의 매개변수를 추정하고 모델 가정을 검증한다.
• 시간적 종속성과 변화하는 교통 맥락을 다루기 위해 동적 원인 모델 및 모듈러 원인 모델링을 제안한다.

실험 결과

연구 질문

• RQ1 어떻게 원인 추론을 자율주행 시스템의 비판성 분석에 형식적으로 통합하여 잘못된 유추를 방지할 수 있는가?
• RQ2 자율주행 안전 맥락에서 원인 모델의 품질을 평가하는 데 사용할 수 있는 형식적 기준은 무엇인가?
• RQ3 어떻게 원인 모델을 구성하여 증명 가능한 효과를 가진 안전 원칙의 도출을 지원할 수 있는가?
• RQ4 안전이 중요한 주행 시나리오에서 원인 효과를 타당하게 추정하기 위한 데이터 요구사항은 무엇인가?
• RQ5 시간적 종속성과 다수의 비판적 현상 간 상호작용을 다루기 위해 원인 모델을 어떻게 확장할 수 있는가?

주요 결과

• 형식적 원인 프레임워크는 특정 영향 요인과 관련된 비판성 감소를 수학적으로 증명할 수 있는 안전 원칙의 도출을 가능하게 한다.
• 제안된 방법은 통계적 연관성보다는 원인 메커니즘에 기반한 비판적 감소를 지지함으로써 엄밀한 안전 논증을 지원한다.
• 감소된 마찰의 영향이 필요로 하는 縦방향 및 횡방향 가속도에 미치는 원인 효과를 모델링할 수 있음을 사례 연구를 통해 입증했다.
• 효과 크기 및 적합도 지표와 같은 비교 척도를 사용하여 모델 품질을 평가할 수 있으며, 이는 원인 모델의 반복적 개선을 가능하게 한다.
• 이 프레임워크는 복잡한 교통 상호작용과 변화하는 시스템 맥락을 수용할 수 있는 동적 및 모듈러 원인 모델로의 향후 확장을 지원한다.
• 이 접근법은 독일 윤리위원회가 제시한 인간 운전 대비 피해의 원인적 감소 요구사항과도 부합한다.