[논문 리뷰] Certified Control: An Architecture for Verifiable Safety of Autonomous Vehicles

Dan Jackson, Valerie Richmond외 7명|arXiv (Cornell University)|2021. 03. 29.

Adversarial Robustness in Machine Learning참고 문헌 35인용 수 6

한 줄 요약

이 논문은 자율주행차를 위한 새로운 안전 아키텍처인 '인증 제어'를 제안한다. 이 아키텍처는 주요 컨트롤러가 안전성 인증서를 생성하고, 이 인증서를 경량이며 형식적으로 검증 가능한 모니터가 런타임에 검증함으로써 안전성 검증을 의사결정과 분리한다. 이 방식은 신뢰할 수 있는 코드 기반을 크게 줄이고, 런타임에서의 안전성에 대한 종단 간 형식적 검증을 가능하게 하며, LiDAR 기반 장애물 탐지 인증서와 그 형식적 검증을 레이스카 프로토타입을 통해 입증하였다.

ABSTRACT

Widespread adoption of autonomous cars will require greater confidence in their safety than is currently possible. Certified control is a new safety architecture whose goal is two-fold: to achieve a very high level of safety, and to provide a framework for justifiable confidence in that safety. The key idea is a runtime monitor that acts, along with sensor hardware and low-level control and actuators, as a small trusted base, ensuring the safety of the system as a whole. Unfortunately, in current systems complex perception makes the verification even of a runtime monitor challenging. Unlike traditional runtime monitoring, therefore, a certified control monitor does not perform perception and analysis itself. Instead, the main controller assembles evidence that the proposed action is safe into a certificate that is then checked independently by the monitor. This exploits the classic gap between the costs of finding and checking. The controller is assigned the task of finding the certificate, and can thus use the most sophisticated algorithms available (including learning-enabled software); the monitor is assigned only the task of checking, and can thus run quickly and be smaller and formally verifiable. This paper explains the key ideas of certified control and illustrates them with a certificate for LiDAR data and its formal verification. It shows how the architecture dramatically reduces the amount of code to be verified, providing an end-to-end safety analysis that would likely not be achievable in a traditional architecture.

연구 동기 및 목표

• 복잡한 학습 기반 인식 시스템에 의존하는 자율주행차에서 안전성 검증의 과제를 해결하기 위해.
• 안전성 검증을 경량이며 형식적으로 검증 가능한 모니터로 이관함으로써 신뢰할 수 있는 코드 기반을 줄이기 위해.
• 컨트롤러가 인증서를 생성하고 모니터가 이를 검증하는 방식으로 분리함으로써 종단 간 형식적 안전성 검증을 가능하게 하기 위해.
• 규제 기관과 대중의 신뢰를 높일 수 있는 정당화 가능하고 감사에 적합한 안전 사례를 제공하기 위해.

제안 방법

• 컨트롤러는 센서 데이터와 그 해석(예: 장애물 미존재를 나타내는 LiDAR 포인트 클라우드)을 포함한 안전성 인증서를 생성한다.
• 런타임 모니터는 센서 데이터를 재처리하지 않고도 형식적으로 검증된 조건문을 사용해 인증서를 독립적으로 검증한다.
• 해결책을 찾는 것과 검증하는 것 사이의 계산 능력 격차를 활용하여, 컨트롤러에는 복잡한 알고리즘, 모니터에는 단순하고 검증 가능한 검증 절차를 적용한다.
• 안전성은 센서, 액추에이터, 모니터로 구성된 작은 형식적 검증 가능한 신뢰 기반을 통해 확보되며, 모니터는 런타임 안전 사례 승인자로 기능한다.
• 인증서 형식과 검증 로직은 설계 시점에 설계되어, 검증에 성공하면 반드시 안전성이 보장됨을 보장하도록 한다.
• 모니터의 검증 로직에 대해 형식적 검증을 적용하였으며, LiDAR 데이터를 사용한 레이스카 프로토타입을 통한 실증 검증을 수행하였다.

실험 결과

연구 질문

• RQ1 학습 기반 인식 기술을 사용하는 자율주행차에서 안전성 검증이 가능한 안전 아키텍처를 설계할 수 있는가?
• RQ2 높은 안전 확신을 유지하면서도 신뢰할 수 있는 코드 기반을 최소화할 수 있는가?
• RQ3 인증서 생성과 검증 간의 분리가 기존 단일 시스템에서는 불가능한 종단 간 안전성 검증을 가능하게 할 수 있는가?
• RQ4 런타임에서 안전성을 인증서로 검증할 때의 실용적 및 형식적 한계는 무엇인가?

주요 결과

• 인증 제어 아키텍처는 형식적 검증이 이전에는 비현실적이었던 분야에서 수행할 수 있도록, 형식적 검증이 필요한 코드 기반을 최소한의 관리 가능한 신뢰 기반으로 줄였다.
• LiDAR 기반 인증서 검증 로직에 대한 형식적 검증이 성공적으로 수행되어 종단 간 안전 보장을 위한 실현 가능성을 입증하였다.
• 레이스카 프로토타입을 통한 실증 검증을 통해 시스템이 위험한 동작을 정확히 차단하고 안전한 동작은 통과하는 것으로 확인되어 런타임 동작이 검증되었다.
• 이 아키텍처는 임의의 안전 임계치를 수용할 수 있으며, 확률적 또는 다중 센서 인증서로의 확장도 가능하지만, 이러한 확장은 아직 형식적으로 검증되지 않았다.
• 컨트롤러의 버그로 유효한 인증서를 생성하지 못하는 경우에도 모니터가 이러한 동작을 거부함으로써 안전성이 유지되며, 이는 안전성을 보장한다.