[논문 리뷰] Responsibility-Sensitive Safety: an Introduction with an Eye to Logical Foundations and Formalization

Ichiro Hasuo|arXiv (Cornell University)|2022. 06. 07.

Formal Methods in Verification인용 수 7

한 줄 요약

이 논문은 자동주행 차량의 안전성을 논리적으로 기반으로 한 프레임워크로 책임감 있는 안전(RSS)을 소개하며, 수학적 조건과 제어 전략을 통해 RSS 안전 규칙을 형식화한다. 이는 안전 보장과 책임 원칙이라는 두 가지 핵심 요구사항을 수립하고, 이들 간의 가정-보장 관계를 정의함으로써 RSS 규칙에 대한 형식 이론, 기계화된 검증 및 도구 지원 개발의 기초를 마련한다.

ABSTRACT

Responsibility-sensitive safety (RSS) is an approach to the safety of automated driving systems (ADS). It aims to introduce mathematically formulated safety rules, compliance with which guarantees collision avoidance as a mathematical theorem. However, despite the emphasis on mathematical and logical guarantees, the logical foundations and formalization of RSS are largely an unexplored topic of study. In this paper, we present an introduction to RSS, one that we expect will bridge between different research communities and pave the way to a logical theory of RSS, its mathematical formalization, and software tools of practical use.

연구 동기 및 목표

• 자신감 있는 논리적 및 형식적 기초를 제공함으로써 자동주행 시스템에서 책임감 있는 안전(RSS)을 정립한다.
• 기존 문헌에서의 일관성 없는 점을 해결하기 위해 핵심 RSS 용어와 개념을 명확히 하고 표준화한다.
• RSS 안전 규칙에 필수적인 두 가지 요구사항인 안전 보장과 책임 원칙을 식별하고 형식화한다.
• RSS 안전 규칙와 그 행동 가정 간의 가정-보장 관계를 수립함으로써 형식적 검증을 가능하게 한다.
• 형식화에 필요한 기본 구성 요소를 식별함으로써 기계화된 검증 및 도구 개발의 길을 열어 놓는다.

제안 방법

• RSS 안전 규칙를 수학적 조건 C와 충돌 회피를 보장하는 제어 전략 P의 쌍(C, P)으로 형식 정의한다.
• 안전 보장 요구사항을 도입: 조건 C가 성립할 경우, 응답 P를 실행하면 충돌이 보장되지 않음을 보장한다.
• RSS 책임 원칙을 다른 차량의 행동에 대한 고수준의 비형식적 가정으로 정의하며, 가정-보장 구조의 '가정' 측면을 형성한다.
• 논리적 프레임워크를 사용하여 RSS 규칙과 외부 가정 간의 상호작용을 모델링함으로써 안전성에 대한 형식적 추론을 가능하게 한다.
• KeYmaera X와 같은 정리 증명기 도구를 사용하여 RSS 규칙의 기계화된 검증을 제안함으로써 증명 과정에서의 인간 오류를 줄인다.
• 형식 방법의 프로그램 검증과 유사하게 RSS 규칙 유도 및 검증을 위한 도구 지원을 주장한다.

실험 결과

연구 질문

• RQ1 RSS 안전 규칙는 논리적 및 수학적 기초를 어떻게 형식화할 수 있는가?
• RQ2 충돌을 방지하기 위해 RSS 안전 규칙가 충족해야 할 최소한의 필수 요구사항은 무엇인가?
• RQ3 RSS 규칙와 다른 차량에 대한 가정 간의 관계는 어떻게 형식적으로 모델링할 수 있는가?
• RQ4 형식적 검증과 도구 지원은 RSS 규칙 개발의 정확성 확보와 오류 감소에 어떤 역할을 하는가?
• RQ5 형식화를 통해 안전 보장을 유지하면서도 RSS를 더 유연하게 만들 수 있는 방법은 무엇인가?

주요 결과

• 논문은 RSS 안전 규칙가 안전 보장 요구사항을 충족해야 한다고 규명한다: RSS 조건 C가 성립할 경우, 적절한 응답 P는 충돌을 방지해야 하며, 이를 수학적 정리로 증명할 수 있다.
• 책임 원칙은 다른 차량의 행동에 대한 고수준의 가정으로 형식화되며, '가정-보장' 관계의 '가정' 측면을 형성한다.
• 가정-보장 구조는 안전에 대한 모듈러한 추론을 가능하게 하며, 규칙의 안전성은 다른 에이전트에 대한 가정의 정확성에 의존한다.
• 기존의 RSS 정확성 증명이 비형식적이고 오류가 발생하기 쉬운 점을 식별하여, KeYmaera X와 같은 도구를 사용한 기계화된 검증이 필요하다고 주장한다.
• 저자들은 형식화와 도구 지원이 복잡한 주행 시나리오에서 특히 중요하며, 확장 가능하고 신뢰성 있고 실용적인 RSS 규칙 개발을 위해 필수적이라고 주장한다.
• 미래의 형식화 방향으로 의도 인식 RSS, 감지 불확실성 처리, 그리고 스위핑 등의 더 풍부한 응답 전략 등을 제안한다.