[논문 리뷰] On a Formal Model of Safe and Scalable Self-driving Cars

Shai Shalev‐Shwartz, Shaked Shammah외 1명|arXiv (Cornell University)|2017. 08. 21.

Reinforcement Learning in Robotics참고 문헌 9인용 수 420

한 줄 요약

이 논문은 책임감 있는 안전(RSS)을 자율주행 차량용 형식적이고 검증 가능한 안전 모델로 제시하고, 실제 배치를 고려한 확장 가능한 시스템 설계를 제시한다.

ABSTRACT

In recent years, car makers and tech companies have been racing towards self driving cars. It seems that the main parameter in this race is who will have the first car on the road. The goal of this paper is to add to the equation two additional crucial parameters. The first is standardization of safety assurance --- what are the minimal requirements that every self-driving car must satisfy, and how can we verify these requirements. The second parameter is scalability --- engineering solutions that lead to unleashed costs will not scale to millions of cars, which will push interest in this field into a niche academic corner, and drive the entire field into a "winter of autonomous driving". In the first part of the paper we propose a white-box, interpretable, mathematical model for safety assurance, which we call Responsibility-Sensitive Safety (RSS). In the second part we describe a design of a system that adheres to our safety assurance requirements and is scalable to millions of cars.

연구 동기 및 목표

• 책임의 의무(Duty of Care, RSS)에 뿌리를 둔 흰 상자형(화이트박스)이고 해석 가능한 자율주행 차량 안전 모델(RSS)을 제안한다.
• 확장 가능하고 검증 가능한 안전을 가능하게 할 의미 언어와 계획/센싱 프레임워크를 정의한다.
• RSS가 오프라인 데이터를 사용하여 주행 시간당 목표 치명률 확률 10^-9에 도달할 수 있음을 보여준다.
• 확장 가능하고 다차량 환경에서 RSS를 구현하는 시스템 설계를 제시한다.

제안 방법

• 멀티 에이전트 환경에서 안전한 운전 의사결정을 포착하는 수학적 모델로 RSS를 형식화한다.
• 계획, 센싱, 작동을 연결하기 위한 단위, 측정, 행동 공간에 대한 의미 언어를 도입한다.
• 경로의 경계가 정해진 고려사항을 가진 의미 공간에서 Q-함수를 사용한 근접하게 확장 가능한 계획 방법을 개발한다.
• RSS를 준수하면서 센싱 오차를 처리하기 위한 PAC 기반 센싱 모델을 제공한다.
• 정의된 안전거리와 적절한 대응 규칙을 갖춘 종단방향(Longitudinal)에서의 안전성에 대한 별 모양의 귀납적 증명과, 이후 측방(Lateral) 시나리오를 시연한다.

실험 결과

연구 질문

• RQ1 자율주행 자동차의 안전성을 인간의 법적 개념(Duty of Care)에 대해 타당하고 검증 가능하게 모델링할 수 있는가?
• RQ2 의미-적 프레임워크가 계획-센싱-구동을 통해 대규모에서 RSS 준수 동작을 보장할 수 있는가?
• RQ3 안전 보장과 교통 효율 사이의 균형을 이루는 매개변수 선택(예: 반응 시간, 제동/가속 한계)은 무엇인가?
• RQ4 오프라인 데이터와 PAC 기반 센싱을 사용하여 주행 시간당 목표 치명률 10^-9를 달성하는 것이 가능한가?
• RQ5 종단 방향과 측방 주행 시나리오에서 다중 에이전트 안전을 귀납적이고 별 모양의 증명으로 어떻게 입증할 수 있는가?

주요 결과

• RSS는 모든 에이전트가 이를 따르면 사고를 제로로 목표로 하는 Duty of Care의 형식적 해석을 제공한다(AI-Utopia).
• 안전한 종단 거리( longitudinal distance )는 속도와 가속/제동 한계의 함수로 도출되어 위험한 상황에 대한 증명 가능한 적절한 반응을 가능하게 한다.
• 이 모델은 궤적 수가 제한된 의미 공간에서 확장 가능한 계획을 지원하여 학습 및 검증을 돕는다.
• RSS를 준수하면서 측정 오차를 처리하기 위해 PAC 기반 센싱 모델이 통합되어 있다.
• 이 방식은 10^5 주행 시간 정도의 데이터로도 오프라인 상에서 검증 가능하도록 설계되어 있으며, 지나치게 큰 데이터가 필요하지 않다.