[論文レビュー] Building a Credible Case for Safety: Waymo's Approach for the Determination of Absence of Unreasonable Risk

Francesca Favarò, Laura Fraade-Blanar+7 more|arXiv (Cornell University)|Jun 2, 2023

Safety Systems Engineering in Autonomy被引用数 15

ひとこと要約

本論はFully autonomous driving の信頼できる安全性ケースを構築するWaymoの設計図を提示し、方法論に依存しない層状・動的・信頼できる安全フレームワークを詳述し、任意の自動運転車開発者にとって有用である。

ABSTRACT

This paper presents an overview of Waymo's approach to building a reliable case for safety - a novel and thorough blueprint for use by any company building fully autonomous driving systems. A safety case for fully autonomous operations is a formal way to explain how a company determines that an AV system is safe enough to be deployed on public roads without a human driver, and it includes evidence to support that determination. It involves an explanation of the system, the methodologies used to develop it, the metrics used to validate it and the actual results of validation tests. Yet, in order to develop a worthwhile safety case, it is first important to understand what makes one credible and well crafted, and align on evaluation criteria. This paper helps enabling such alignment by providing foundational thinking into not only how a system is determined to be ready for deployment but also into justifying that the set of acceptance criteria employed in such determination is sufficient and that their evaluation (and associated methods) is credible. The publication is structured around three complementary perspectives on safety that build upon content published by Waymo since 2020: a layered approach to safety; a dynamic approach to safety; and a credible approach to safety. The proposed approach is methodology-agnostic, so that anyone in the space could employ portions or all of it.

研究の動機と目的

• 完全自動運転における安全性ケースを信頼できるものにする要因を説明する。
• 安全性ケースを支えるWaymoの3つの補完的な安全観を説明する。
• 不合理なリスクの不存在を示すために、他者が採用できる方法論に依存しないフレームワークを提供する。

提案手法

• 複数の視点を組み合わせた層状の安全性アプローチを概説する。
• 状況の変化とシステムの進化を考慮した動的な安全性アプローチを提示する。
• 正当性と証拠の品質に焦点を当てた信頼できる安全性アプローチを提案する。
• 評価基準の整合と検証手法の信頼性確保に関する指針を提供する。

実験結果

リサーチクエスチョン

• RQ1 完全自動運転の運用における安全性ケースを、利害関係者にとって信頼できるようにどのように構築できるか。
• RQ2 自動運転の信頼できる安全性ケースを支える補完的な安全観は何か。
• RQ3 受入基準と検証手法を、展開判断に対して十分かつ信頼できるものとして正当化するにはどうすればよいか。

主な発見

• Waymoは、安全性ケースを構築するための3視点フレームワーク（層状・動的・信頼できる）を提案する。
• このフレームワークは方法論に依存しないと説明され、さまざまな組織による広範な導入を可能にする。
• 本論文は評価基準の整合と安全性検証に用いられる方法論の信頼性を強調している。
• 正式な安全性ケースは、展開決定を支えるために、システムの詳細・方法論・指標・検証結果を説明する。