[논문 리뷰] Interpretable Self-Aware Neural Networks for Robust Trajectory Prediction

Masha Itkina, Mykel J. Kochenderfer|arXiv (Cornell University)|2022. 11. 16.

Explainable Artificial Intelligence (XAI)인용 수 4

한 줄 요약

이 논문은 증거 기반 딥 러닝을 사용하여 해석 가능한 의미적 개념—이동 엔티티 행동, 도로 구조, 사회적 맥락—에 걸쳐 지식적 불확실성을 추정하는 일회성, 단일 순방향 전파 트래잭터리 예측 프레임워크인 해석 가능한 자기 인식 예측(ISAP)을 제안한다. 훈련 중에 OOD 데이터가 없더라도 상태 기반 기준보다 우수한 불확실성 추정 성능을 유지하면서도 높은 예측 정확도를 확보한다.

ABSTRACT

Although neural networks have seen tremendous success as predictive models in a variety of domains, they can be overly confident in their predictions on out-of-distribution (OOD) data. To be viable for safety-critical applications, like autonomous vehicles, neural networks must accurately estimate their epistemic or model uncertainty, achieving a level of system self-awareness. Techniques for epistemic uncertainty quantification often require OOD data during training or multiple neural network forward passes during inference. These approaches may not be suitable for real-time performance on high-dimensional inputs. Furthermore, existing methods lack interpretability of the estimated uncertainty, which limits their usefulness both to engineers for further system development and to downstream modules in the autonomy stack. We propose the use of evidential deep learning to estimate the epistemic uncertainty over a low-dimensional, interpretable latent space in a trajectory prediction setting. We introduce an interpretable paradigm for trajectory prediction that distributes the uncertainty among the semantic concepts: past agent behavior, road structure, and social context. We validate our approach on real-world autonomous driving data, demonstrating superior performance over state-of-the-art baselines. Our code is available at: https://github.com/sisl/InterpretableSelfAwarePrediction.

연구 동기 및 목표

• 자율 주행 차량 인식에서 흔한 외부 분포(OOD) 시나리오에서 신경망의 자기 인식 부족 문제를 해결한다.
• 훈련 중에 OOD 데이터가 필요하거나 다중 순방향 전파를 요구하는 기존의 불확실성 추정 방법의 한계를 극복한다.
• 이동 엔티티 행동, 지도 구조, 사회적 맥락 등의 의미적으로 유의미한 잠재 요소에 불확실성을 분배함으로써 불확실성의 해석 가능성을 향상시킨다.
• 단일 추론 단계 성능을 보장함으로써 실시간 안전 핵심 시스템에의 구현을 가능하게 한다.
• 엔지니어 및 후속 자율 주행 모듈이 불확실성의 원인을 실질적으로 분석할 수 있도록 유용한 통찰을 제공한다.

제안 방법

• 이동 엔티티 행동, 고차원 지도(HD 지도), 사회적 맥락의 잠재 표현에 대해 딜리클리트 분포를 사용하여 지식적 불확실성을 모델링하기 위해 증거 기반 딥 러닝을 활용한다.
• 정규화 흐름을 사용하여 훈련 중 딜리클리트 매개수를 제약함으로써 OOD 데이터가 없더라도 적절한 校정을 보장한다.
• 입력을 세 가지 모odal별 인코더로 분해한다: 이동 엔티티 트래잭터리, 지도 임베딩, 사회적 맥락 표현.
• 각 의미적 구성 요소에 대해 별도의 불확실성 매개수 α_agent, α_map, α_sc 를 학습함으로써 불확실성의 해석 가능한 분해를 가능하게 한다.
• 개별 딜리클리트 분포를 조합하여 궁극적인 트래잭터리 예측 출력 분포를 생성하며, 총합 α₀ 는 전역 지식적 불확실성 지표로 기능한다.
• 불확실성 추정을 단일 순방향 전파 내에서 수행할 수 있도록 가능하게 하기 위해 가능도 기반 목적 함수를 사용해 모델을 엔드 투 엔드로 훈련한다.

실험 결과

연구 질문

• RQ1 훈련 중에 OOD 데이터가 없더라도 단일 순방향 전파로 지식적 불확실성을 효과적으로 추정할 수 있는가?
• RQ2 이동 엔티티 행동, 도로 구조, 사회적 맥락과 같은 의미적으로 해석 가능한 의미적 요소에 불확실성을 의미 있게 분해할 수 있는가?
• RQ3 제안된 해석 가능한 불확실성 분해가 엔지니어 및 후속 시스템의 불확실성 추정의 해석 가능성과 진단 가치를 향상시키는가?
• RQ4 모델의 불확실성 추정 성능이 몬테카를로 드롭아웃 및 앙상블 등의 최신 기준 방법과 비교해 복수의 분포 및 OOD 설정 모두에서 어떻게 성능을 내는가?
• RQ5 모델이 분포 이탈을 감지하고 특정 의미적 구성 요소의 불확실성에 반영함으로써 적절히 대응할 수 있는가?

주요 결과

• ISAP 프레임워크는 몬테카를로 드롭아웃 및 앙상블과 같은 최신 기준 기준보다 우수한 지식적 불확실성 추정 성능을 보이며, 특히 OOD 입력을 탐지하는 데서 뛰어난 성능을 보였다.
• 과거 트래잭터리 실험에서, 더 빠른 속도를 가진 OOD 입력은 ID 입력에 비해 α₀,agent 값이 크게 낮았다(69 대 8137), 이는 높은 불확실성을 정확히 반영한 것이다.
• 지도 기반 실험에서, 훈련 데이터에 등장하지 않은 원형 교차로를 포함한 OOD 입력은 ID 입력에 비해 α₀,map 값이 훨씬 낮았다(117 대 1060), 이는 분포 이탈을 올바르게 탐지했음을 보여준다.
• 밀도 높은 교통 상황을 포함한 ID 및 OOD 사례 모두에서 사회적 맥락 불확실성 구성 요소(α₀,sc)는 높게 유지되었으며, 이는 이러한 상황이 훈련 데이터에 흔히 존재했음을 의미하고, 따라서 놀라운 일이 아님을 시사한다.
• 모델의 불확실성 분해는 해석 가능한 통찰을 제공한다. 예를 들어, OOD 원형 교차로 시나리오에서 α₀,map 가 낮게 나타나, 불확실성의 원인이 지도 구조임을 명확히 드러낸다.
• 불확실성 추정을 추가했음에도 불구하고, ISAP의 트래잭터리 예측 성능은 기준 모델과 유사했으며, 메트릭스에서 미미한 하락만을 보였다.