[论文解读] Responsibility-Sensitive Safety: an Introduction with an Eye to Logical Foundations and Formalization

Ichiro Hasuo|arXiv (Cornell University)|Jun 7, 2022

Formal Methods in Verification被引用 7

一句话总结

本文提出责任敏感安全（RSS）作为自动驾驶安全的逻辑基础框架，通过数学条件和控制策略形式化RSS安全规则。它确立了两个核心要求——安全保证与责任原则——并定义其假设-保证关系，为RSS规则的正式理论、机械化验证及工具支持开发奠定基础。

ABSTRACT

Responsibility-sensitive safety (RSS) is an approach to the safety of automated driving systems (ADS). It aims to introduce mathematically formulated safety rules, compliance with which guarantees collision avoidance as a mathematical theorem. However, despite the emphasis on mathematical and logical guarantees, the logical foundations and formalization of RSS are largely an unexplored topic of study. In this paper, we present an introduction to RSS, one that we expect will bridge between different research communities and pave the way to a logical theory of RSS, its mathematical formalization, and software tools of practical use.

研究动机与目标

• 为自动驾驶系统中的责任敏感安全（RSS）提供严谨的逻辑与形式化基础。
• 澄清并标准化RSS的核心术语与概念，解决现有文献中的不一致性。
• 识别并形式化RSS安全规则的两个基本要求：安全保证与责任原则。
• 在RSS安全规则与其行为假设之间建立假设-保证关系，以支持形式化验证。
• 通过识别形式化所必需的基础组件，为机械化验证与工具开发铺平道路。

提出的方法

• 提出RSS安全规则的形式化定义，即一对(C, P)，其中C为可即时检查的数学条件，P为确保防撞的控制策略。
• 引入安全保证要求：若条件C成立，则执行响应P必须保证无碰撞。
• 将RSS责任原则定义为关于其他车辆行为的高层级非形式化假设，构成假设-保证结构中的‘假设’部分。
• 使用逻辑框架建模RSS规则与外部假设之间的交互，支持对安全性的形式化推理。
• 提出使用KeYmaera X等定理证明器进行RSS规则的机械化验证，以减少人工证明中的错误。
• 倡导在RSS规则推导与验证中引入工具支持，类比程序验证中的形式化方法。

实验结果

研究问题

• RQ1 如何利用逻辑与数学基础对RSS安全规则进行形式化定义？
• RQ2 RSS安全规则为保证防撞所必需的最小条件是什么？
• RQ3 如何对RSS规则与对其他车辆行为的假设之间的关系进行形式化建模？
• RQ4 形式化验证与工具支持在确保RSS规则开发正确性、减少错误方面发挥什么作用？
• RQ5 如何通过形式化使RSS在保持安全保证的前提下更具包容性？

主要发现

• 本文确立，RSS安全规则必须满足安全保证要求：若RSS条件C成立，则正确响应P必须防止碰撞，该结论可作为数学定理证明。
• 责任原则被形式化为对其他车辆行为的高层级假设，构成假设-保证关系中的‘假设’部分。
• 假设-保证结构支持模块化安全推理，即规则的安全性依赖于其对其他智能体行为假设的正确性。
• 本文指出，现有RSS正确性证明多为非形式化且易出错，因此亟需借助KeYmaera X等工具进行机械化验证。
• 作者认为，形式化与工具支持对于实现可扩展、可靠且实用的RSS规则开发至关重要，尤其在复杂驾驶场景中。
• 本文提出未来形式化方向，如意图感知RSS、感知不确定性处理，以及更丰富的响应策略（例如变道避让）等扩展。