[논문 리뷰] Can Autonomous Vehicles Identify, Recover From, and Adapt to Distribution Shifts?

Angelos Filos, Panagiotis Tigkas외 4명|arXiv (Cornell University)|2020. 06. 26.

Mining Techniques and Economics인용 수 53

한 줄 요약

본 논문은 에피스테믹 불확실성을 활용하여 자율주행에서 분포 변화(distribution shifts)를 감지하고 이를 복구하며, 필요 시 온라인 적응을 위해 전문가를 질의하는 방식의 강건한 모방 계획(RIP) 및 적응형 RIP(AdaRIP)을 제시하고; 또한 새로운 OOD 주행 벤치마크인 CARNOVEL을 제시한다.

ABSTRACT

Out-of-training-distribution (OOD) scenarios are a common challenge of learning agents at deployment, typically leading to arbitrary deductions and poorly-informed decisions. In principle, detection of and adaptation to OOD scenes can mitigate their adverse effects. In this paper, we highlight the limitations of current approaches to novel driving scenes and propose an epistemic uncertainty-aware planning method, called \emph{robust imitative planning} (RIP). Our method can detect and recover from some distribution shifts, reducing the overconfident and catastrophic extrapolations in OOD scenes. If the model's uncertainty is too great to suggest a safe course of action, the model can instead query the expert driver for feedback, enabling sample-efficient online adaptation, a variant of our method we term \emph{adaptive robust imitative planning} (AdaRIP). Our methods outperform current state-of-the-art approaches in the nuScenes \emph{prediction} challenge, but since no benchmark evaluating OOD detection and adaption currently exists to assess \emph{control}, we introduce an autonomous car novel-scene benchmark, exttt{CARNOVEL}, to evaluate the robustness of driving agents to a suite of tasks with distribution shifts.

연구 동기 및 목표

• 자율주행에서 학습 범위를 벗어난(out-of-training-distribution, OOD) 시나리오를 탐지하고 처리할 필요성을 제시한다.
• 에피스테믹 불확실성에 민감한 계획 방법을 개발하여 분포 변화 탐지 및 복구를 수행한다.
• 불확실성이 높을 때 전문가를 질의하여 온라인에서 샘플 효율적인 적응을 가능하게 한다(AdaRIP).
• 새로운 자율주행 차의 새로운 노면/장면에 대한 강건성을 평가하는 새 벤치마크(CARNOVEL)를 제시한다.
• 실 데이터(nuScenes)와 시뮬레이션 데이터에서 최첨단 기준선과 비교 평가한다.

제안 방법

• 최대우도(MLE)로 전문가 궤적을 모방하기 위해 q(y|x;θ)라는 자기회귀 베이지안 모방 모델을 학습하고, p(θ|D)를 근사하기 위해 θ 지시자들의 앙상블을 사용한다.
• 에피스테믹 불확실성 지표 u(y)=Varθ|D[log q(y|x;θ)]를 통해 분포 변화를 감지한다.
• RIP로 에피스테믹 불확실성 하에서 계획하고, 폴리티를 최적화하여 모방 사전과 목표 가능도 합을 θ의 사후 아래에서 최대화한다(집합 연산자 ⊕).
• 두 가지 집계 연산자를 사용: RIP-WCM(최악 사례 모델 미니맥스) 및 RIP-MA(베이지안 사후를 통한 모델 평균화), CVaR 등 대안도 언급한다.
• AdaRIP은 불확실성이 높을 때 온라인 전문가 피드백으로 RIP을 보강하여 안전한 온라인 개선을 가능하게 한다.
• 새로운 벤치마크와 실제 데이터 실험을 통해 우수성을 시연한다.

실험 결과

연구 질문

• RQ1 Q1. 자율주행 방법이 명시적 OOD 신호 없이도 분포 변화를 탐지할 수 있는가?
• RQ2 Q2. 이러한 방법들은 분포 변화에서 회복하는 데 얼마나 강건한가?
• RQ3 Q3. RIP의 에피스테믹 불확실성이 새롭거나 분포 밖(Scene) 장면을 효과적으로 정량화하는가?
• RQ4 Q4. 명시적 회복 메커니즘(AdaRIP)이 분포 변화 하에서 성능을 향상시키는가?
• RQ5 Q5. RIP 변형이 실제 데이터와 시뮬레이션 데이터에서 최첨단 기준선과 어떻게 비교되는가?

주요 결과

• RIP와 AdaRIP는 nuScenes 예측 작업 및 분포 변화 하에서 CARNOVEL에서 최첨단 기준선보다 우수한 성능을 보인다.
• 에피스테믹 불확실성은 앙상블 간의 모델 불일치를 통해 분포 변화를 탐지하게 한다.
• RIP-WCM과 RIP-MA는 불확실성 하에서 강건한 계획을 제공하며, RIP-MA는 모델 평균화를, RIP-WCM은 최악의 경우를 고려한다.
• AdaRIP는 불확실성이 높을 때 전문가를 질의하여 온라인에서 샘플 효율적인 적응을 달성한다.
• CARNOVEL은 시뮬레이션 주행 상황에서 비정상적인 커브, 언덕, 로터리 등과 같은 작업에서 강건성을 보여준다.
• RIP 계열 방법은 실제 및 시뮬레이션 데이터 모두에서 DIM 및 기타 기준선에 비해 우수한 성능 향상을 보인다.