[논문 리뷰] Building a Credible Case for Safety: Waymo's Approach for the Determination of Absence of Unreasonable Risk

Francesca Favarò, Laura Fraade-Blanar외 7명|arXiv (Cornell University)|2023. 06. 02.

Safety Systems Engineering in Autonomy인용 수 15

한 줄 요약

본 논문은 완전 자율주행을 위한 신뢰할 수 있는 안전 사례를 구축하기 위한 Waymo의 설계도를 제시하고, 계층적이며 동적이고 신뢰할 수 있는 안전 프레임워크를 자세히 설명합니다. 이 프레임워크는 방법론에 구애받지 않으며 모든 AV 개발자에게 유용합니다.

ABSTRACT

This paper presents an overview of Waymo's approach to building a reliable case for safety - a novel and thorough blueprint for use by any company building fully autonomous driving systems. A safety case for fully autonomous operations is a formal way to explain how a company determines that an AV system is safe enough to be deployed on public roads without a human driver, and it includes evidence to support that determination. It involves an explanation of the system, the methodologies used to develop it, the metrics used to validate it and the actual results of validation tests. Yet, in order to develop a worthwhile safety case, it is first important to understand what makes one credible and well crafted, and align on evaluation criteria. This paper helps enabling such alignment by providing foundational thinking into not only how a system is determined to be ready for deployment but also into justifying that the set of acceptance criteria employed in such determination is sufficient and that their evaluation (and associated methods) is credible. The publication is structured around three complementary perspectives on safety that build upon content published by Waymo since 2020: a layered approach to safety; a dynamic approach to safety; and a credible approach to safety. The proposed approach is methodology-agnostic, so that anyone in the space could employ portions or all of it.

연구 동기 및 목표

• 완전 자율주행에 대한 안전 사례를 신뢰할 수 있게 만드는 요소를 설명한다.
• 안전 사례를 뒷받침하는 Waymo의 상호 보완적인 세 가지 안전 관점을 설명한다.
• 합리적이지 않은 위험의 부재를 입증하기 위한 다른 이들이 채택할 수 있는 방법론에 구애받지 않는 프레임워크를 제공한다.

제안 방법

• 여러 관점을 결합한 계층적 안전 접근법을 개요화한다.
• 변하는 조건과 시스템 진화를 반영하는 동적 안전 접근법을 제시한다.
• 정당화와 증거의 질에 초점을 맞춘 신뢰할 수 있는 안전 접근법을 제안한다.
• 평가 기준을 정렬하고 검증 방법의 신뢰성을 보장하는 지침을 제시한다.

실험 결과

연구 질문

• RQ1 완전 자율 운영에 대한 안전 사례를 이해관계자들에게 신뢰할 수 있고 신뢰받도록 어떻게 구성할 수 있는가?
• RQ2 자율주행을 위한 신뢰할 수 있는 안전 사례를 뒷받침하는 상호 보완적 안전 관점은 무엇인가?
• RQ3 수용 기준과 검증 방법을 배치 결정에 충분하고 신뢰할 수 있음을 어떻게 정당화할 수 있는가?

주요 결과

• Waymo는 안전 사례 구축을 위한 세 가지 관점 프레임워크(계층적, 동적, 신뢰할 수 있음)를 제안한다.
• 이 프레임워크는 방법론에 구애받지 않는 것으로 설명되어 서로 다른 조직이 널리 채택할 수 있다.
• 논문은 평가 기준의 일치와 안전성을 검증하는 데 사용된 방법론의 신뢰성을 강조한다.
• 공식적인 안전 사례는 배치 결정을 지원하기 위해 시스템 세부 정보, 방법론, 지표, 검증 결과를 설명한다.