[논문 리뷰] Spatial Uncertainty Sampling for End-to-End Control

Alexander Amini, Ava P. Soleimany외 2명|arXiv (Cornell University)|2018. 05. 13.

Gaussian Processes and Bayesian Inference참고 문헌 24인용 수 15

한 줄 요약

이 논문은 2D 공간 드롭아웃을 사용하여 표준 요소별 드롭아웃보다 더 정확하게 모델 불확실성을 추정하는 베이지안 딥 네ural 네트워크를 제안한다. 훈련 중 특징 맵 상의 상관관계를 활용함으로써, 더 날카운 불확실성 추정과 더 빠른 수렴을 달성하여, 모델 불확실성이 높을 때 인간 입력을 우선시하는 공유 제어 프레임워크를 가능하게 한다.

ABSTRACT

End-to-end trained neural networks (NNs) are a compelling approach to autonomous vehicle control because of their ability to learn complex tasks without manual engineering of rule-based decisions. However, challenging road conditions, ambiguous navigation situations, and safety considerations require reliable uncertainty estimation for the eventual adoption of full-scale autonomous vehicles. Bayesian deep learning approaches provide a way to estimate uncertainty by approximating the posterior distribution of weights given a set of training data. Dropout training in deep NNs approximates Bayesian inference in a deep Gaussian process and can thus be used to estimate model uncertainty. In this paper, we propose a Bayesian NN for end-to-end control that estimates uncertainty by exploiting feature map correlation during training. This approach achieves improved model fits, as well as tighter uncertainty estimates, than traditional element-wise dropout. We evaluate our algorithms on a challenging dataset collected over many different road types, times of day, and weather conditions, and demonstrate how uncertainties can be used in conjunction with a human controller in a parallel autonomous setting.

연구 동기 및 목표

• 엔드 투 엔드 딥 러닝을 통한 자율 주행 제어에서 신뢰할 수 있는 불확실성 추정의 부족을 해결하기 위해.
• 훈련 중 특징 맵 내 공간 상관관계를 활용하여 모델 불확실성 추정을 향상시키기 위해.
• 예측 불확실성에 기반해 인간과 신경망 제어를 융합하는 공유 자율 주행 프레임워크를 개발하기 위해.
• 실생활 주행 시나리오에서 공간 드롭아웃이 요소별 드롭아웃보다 더 날카운 불확실성 추정을 제공하는지 입증하기 위해.

제안 방법

• 모델의 공간적 구조를 더 잘 유지하고 특징 맵 간 독립성을 증진시키기 위해, 요소별 드롭아웃 대신 전체 특징 맵 채널에 베르누이 드롭아웃 마스크를 적용하는 2D 공간 드롭아웃을 사용한다.
• 공간 드롭아웃을 적용한 네트워크의 스토하스틱 프로퍼게이션을 통해 예측 분포를 근사하며, 제어 출력과 그 불확실성의 추정치로 예측 평균과 분산을 계산한다.
• 예측 분산은 모델의 자신감을 측정하는 데 사용되며, 높은 분산은 예측에 대한 낮은 자신감을 나타낸다.
• 공유 제어 전략은 $ u_{PA} = (1 - \sigma) \cdot u_N + \sigma \cdot u_H $ 로 정의되며, $ \sigma = \kappa \cdot \mathrm{Var}(\mathbf{Y}|\mathbf{X}) $ 로서, 불확실성에 따라 네트워크 명령과 인간 명령을 동적으로 가중한다.
• 역회전 반경의 평균 제곱오차를 최소화하기 위해, 실생활 주행 데이터셋에서 스토하스틱 경사 하강법을 사용해 네트워크를 엔드 투 엔드로 훈련시킨다.

실험 결과

연구 질문

• RQ1 요소별 드롭아웃과 비교해 공간 드롭아웃이 엔드 투 엔드 주행 네트워크의 불확실성 추정을 향상시키는가?
• RQ2 훈련 중 특징 맵 상의 상관관계가 자율 제어를 위한 딥 네럴 네트워크의 불확실성 추정 품질에 어떤 영향을 미치는가?
• RQ3 베이지안 딥 네럴 네트워크에서 도출된 불확실성 추정치가 인간과 기계 간 안전하고 적응형 공유 제어를 효과적으로 가능하게 하는가?
• RQ4 공간 드롭아웃의 사용이 실생활 주행 시나리오에서 더 빠른 수렴과 더 나은 일반화를 이끌어내는가?

주요 결과

• 공간 드롭아웃은 요소별 드롭아웃보다 초기 에포크에서 더 급격한 손실 감소를 보이며 더 빠른 수렴을 달성했다.
• 원점에서 떨어진 데이터에서 예측 분산이 증가하여, 더 날카운 커브에서 높은 불확실성을 반영하는 것으로 나타났다. 이는 기대되는 모델 행동과 일치한다.
• 공간 드롭아웃의 평균 불확실성 오차는 1.74로 요소별 드롭아웃의 2.67보다 유의미하게 낮아, 더 신뢰할 수 있는 불확실성 정량화를 나타낸다.
• 불확실성 추정치는 데이터 희소성과 일치했다: 훈련 예제가 적은 영역에서는 분산이 더 높았으며, 이는 불확실성이 데이터 커버리지 반영함을 확인한다.
• 공유 제어 프레임워크는 인간과 네트워크 명령을 성공적으로 융합했으며, 모델 불확실성이 높을 때 인간 입력이 우세해져 모호한 주행 조건에서 더 안전한 운영을 가능하게 했다.