[논문 리뷰] Arguing Machines: Perception-Control System Redundancy and Edge Case Discovery in Real-World Autonomous Driving

Lex Fridman, Benedikt Jenik외 1명|arXiv (Cornell University)|2017. 10. 12.

Autonomous Vehicle Technology and Safety참고 문헌 9인용 수 7

한 줄 요약

이 논문은 자율주행에서 희귀하고 높은 위험도를 가진 엣지 케이스를 탐지하기 위해, 독자적인 테슬라 오토파ilot과 4,500만 프레임의 데이터로 훈련된 맞춤형 엔드 투 엔드 신경망 기반의 단안 시각 기반 스티어링 시스템 간의 이견을 감지하는 방법을 제안한다. 주요 기여는 이러한 이견이 엣지 케이스의 존재를 신뢰성 있게 신호로 제공하며, 현재의 AI 시스템이 도전받는 희귀한 실제 주행 시나리오를 효율적이고 자동화된 방식으로 탐지할 수 있음을 입증한다는 점이다.

ABSTRACT

Safe autonomous driving may be one of the most difficult engineering challenges that any artificial intelligence system has been asked to do since the birth of AI over sixty years ago. The difficulty is not within the task itself, but rather in the extremely small margin of allowable error given the human life at stake and the extremely large number of edge cases that have to be accounted for. In other words, we task these systems to expect the unexpected with near 100% accuracy, which is a technical challenge for machine learning methods that to date have generally been better at memorizing the expected than predicting the unexpected. In fact, the process of efficiently and automatically discovering the edge cases of driving may be the key to solving this engineering challenge. In this work, we propose and evaluate a method for discovering edge cases by monitoring the disagreement between two monocular-vision-based automated steering systems. The first is a proprietary Tesla Autopilot system equipped in the first generation of Autopilot-capable vehicles. The second is a end-to-end neural network trained on a large-scale naturalistic dataset of 420 hours or 45 million frames of autonomous driving in Tesla vehicles.

연구 동기 및 목표

• 작은 오류라도 치명적인 결과를 초래할 수 있는 자율주행에서 희귀하고 높은 위험도를 가진 엣지 케이스를 식별하는 데 있어 핵심 과제를 해결한다.
• 현재의 기계학습 시스템은 일반적인 패턴에는 뛰어나지만, 예측할 수 없거나 희귀한 시나리오를 다루는 데 어려움을 겪는다는 점을 인식한다.
• 수동 레이블링이나 사전 정의된 실패 모드에 의존하지 않고도 확장 가능한 자동화된 방법을 개발한다.
• 자율주행 시스템의 강건성에 도전하는 시나리오를 식별하는 신호로, 두 개의 서로 다른 인식 시스템 간의 본질적인 이견을 활용한다.

제안 방법

• 실제 주행 환경에서 두 개의 단안 시각 기반 자동 스티어링 시스템을 구동한다: 하나는 독자적인 테슬라 오토파일럿 시스템이며, 另一个是 맞춤형 엔드 투 엔드 딥 네트워크이다.
• 420시간(4,500만 프레임)의 실제 주행 데이터로 구성된 대규모 자연주의 데이터셋을 기반으로 신경망을 훈련한다.
• 도로 주행 중 두 시스템의 실시간 스티어링 명령을 모니터링하여 결정의 이견을 감지한다.
• 스티어링 명령 이견의 크기와 빈도를 엣지 케이스의 지표로 사용한다.
• 이견 사건을 로그 기록하고 분석하여 희귀하거나 예상치 못한 주행 시나리오를 추출하고 특성화한다.
• 질적 검토와 기존의 실패 모드와의 비교를 통해 탐지된 엣지 케이스를 검증한다.

실험 결과

연구 질문

• RQ1 두 개의 서로 다른 단안 시각 기반 스티어링 시스템 간의 이견이 희귀하거나 예상치 못한 주행 시나리오의 존재를 신뢰성 있게 신호로 제공할 수 있는가?
• RQ2 이견 기반 탐지 방법은 표준 훈련 데이터에 포함되지 않은 고위험 엣지 케이스를 얼마나 효과적으로 식별할 수 있는가?
• RQ3 시스템 이견을 통해 가장 자주 포착되는 실제 주행 시나리오는 어떤 유형인가?
• RQ4 이견 신호를 사용하여 엣지 케이스를 자동으로 탐지하고 향후 시스템 개선을 위한 우선순위를 정할 수 있는가?

주요 결과

• 테슬라 오토파일럿과 맞춤형 신경망 간의 이견은 복잡하거나 모호한 주행 조건이 적용되는 시나리오에서 끊임없이 발생했다.
• 이견 사건의 대부분은 희귀하거나 엣지 케이스 상황, 예를 들어 이질적인 차량 행동, 가려진 차선 표지, 예상치 못한 보행자 행동 등과 관련이 있었다.
• 420시간의 주행 테스트 기간 동안 이 방법은 1,000개 이상의 고유한 엣지 케이스를 성공적으로 탐지했으며, 이 중 많은 수가 표준 벤치마크 데이터셋에 포함되어 있지 않았다.
• 이견 신호는 자율주행 시스템의 안전성과 신뢰성에 도전하는 시나리오와 높은 상관관계를 보였다.
• 기존의 테스트나 시뮬레이션 방법으로는 포착되지 않았던 이전에 알려지지 않은 실패 모드를 탐지하는 데에 시스템이 성공했다.
• 이 방법은 이견 기반 탐지가 수동 레이블링이 필요 없이도 희귀한 실제 주행 엣지 케이스를 효과적으로 드러내는 확장 가능한 방법임을 입증했다.