[논문 리뷰] Structural Attention-Based Recurrent Variational Autoencoder for Highway Vehicle Anomaly Detection

Neeloy Chakraborty, A S M Mahmudul Hasan외 5명|arXiv (Cornell University)|2023. 01. 09.

Anomaly Detection Techniques and Applications인용 수 7

한 줄 요약

이 논문은 고속도로 차량 이질성 탐지에 적합한 비지도 구조적 주의 기반 순환 변동 자동에코더인 SABeR-VAE를 제안한다. 이 모델은 차선 구조와 차량 간 상호작용을 명시적으로 모델링하며, MAAD 데이터셋에서 STGAE-KDE 대비 이질성 탐지 AUPR를 18% 향상시킨다. 또한 비정상 행동(예: 역주행)을 포괄하는 해석 가능한 잠재 공간 전이를 구현한다.

ABSTRACT

In autonomous driving, detection of abnormal driving behaviors is essential to ensure the safety of vehicle controllers. Prior works in vehicle anomaly detection have shown that modeling interactions between agents improves detection accuracy, but certain abnormal behaviors where structured road information is paramount are poorly identified, such as wrong-way and off-road driving. We propose a novel unsupervised framework for highway anomaly detection named Structural Attention-Based Recurrent VAE (SABeR-VAE), which explicitly uses the structure of the environment to aid anomaly identification. Specifically, we use a vehicle self-attention module to learn the relations among vehicles on a road, and a separate lane-vehicle attention module to model the importance of permissible lanes to aid in trajectory prediction. Conditioned on the attention modules' outputs, a recurrent encoder-decoder architecture with a stochastic Koopman operator-propagated latent space predicts the next states of vehicles. Our model is trained end-to-end to minimize prediction loss on normal vehicle behaviors, and is deployed to detect anomalies in (ab)normal scenarios. By combining the heterogeneous vehicle and lane information, SABeR-VAE and its deterministic variant, SABeR-AE, improve abnormal AUPR by 18% and 25% respectively on the simulated MAAD highway dataset over STGAE-KDE. Furthermore, we show that the learned Koopman operator in SABeR-VAE enforces interpretable structure in the variational latent space. The results of our method indeed show that modeling environmental factors is essential to detecting a diverse set of anomalies in deployment. For code implementation, please visit https://sites.google.com/illinois.edu/saber-vae.

연구 동기 및 목표

• 기존의 이질성 탐지 모델이 차선 구조에 의존하는 이질성(예: 역주행)을 탐지하지 못하는 한계를 해결하기 위해.
• 차량 상호작용 외에 명시적인 도로 구조(차선 배치)를 궤적 예측에 통합하여 자율주행에서의 비지도 이질성 탐지 성능을 향상시키기 위해.
• 코프만 연산자로 정규화된 구조적이고 연속적인 잠재 공간을 학습함으로써 비정상 전이를 명시적으로 표현함으로써 모델의 해석 가능성 향상.
• 비상호작용, 이탈 주행, 역주행 등 다양한 이질성 유형에 대해 높은 탐지 성능 확보.
• 실제 고속도로 환경에서 강력하고 일반화 가능한 이질성 탐지에 환경적 맥락과 상호작용 모델링이 필수적임을 입증하기 위해.

제안 방법

• 모델은 고속도로 환경에서 근접한 차량 간의 동적 상호작용을 포착하기 위해 차량 자기 주의 모듈을 사용한다.
• 별도의 차선-차량 주의 모듈은 허용 가능한 차선과 차량 행동 간의 관련성을 모델링하여 도로 구조를 예측 과정에 통합한다.
• 스토케스틱 잠재 공간을 갖춘 순환 인코더-디코더 아키텍처로, 코프만 연산자로 정규화된 잠재 공간을 통해 과거 차량 궤적을 예측한다.
• 정상 궤적에 대한 재구성 손실을 통해 잠재 공간을 엔드 투 엔드로 훈련하며, 높은 예측 오차를 통해 이질성 탐지 기능을 구현한다.
• 코프만 연산자는 잠재 공간 내에서 해석 가능한 매끄러운 전이를 강제하여 정상 상태에서 비정상 상태로의 행동 변화를 시각화할 수 있도록 한다.
• 추론의 정규화를 위해 결정론적 변형인 SABeR-AE도 아블레이션 및 비교 목적으로 평가된다.

Figure 1. Map discretization and interaction edges. We model the vehicle AD problem as an interaction graph with vehicle and lane nodes. A continuous map of the road is discretized into blocks. Directed lane edges between lane nodes encode permissible routes for vehicles. The red vehicle has a direc

실험 결과

연구 질문

• RQ1 차선 구조를 명시적으로 모델링하면 자율주행 시스템에서 환경 의존적 이질성(예: 역주행) 탐지 성능이 향상되는가?
• RQ2 차량 상호작용과 도로 구조를 동시에 통합할 경우, 고속도로 환경에서의 비지도 이질성 탐지 성능과 내구성은 어떻게 향상되는가?
• RQ3 변동 자동에코더의 학습된 잠재 공간이 비정상 행동 전이를 얼마나 잘 해석 가능한 표현으로 제공하는가?
• RQ4 코프만 연산자 정규화는 실제 세계의 행동 변화를 반영하는 더 체계적이고 의미 있는 잠재 역학을 유도하는가?
• RQ5 SABeR-VAE는 STGAE-KDE와 같은 최첨단 모델과 비교해 비상호작용 및 고영향도 행동을 포함한 다양한 이질성 유형에서 어떻게 성능을 냈는가?

주요 결과

• SABeR-VAE는 시뮬레이션된 MAAD 고속도로 데이터셋에서 STGAE-KDE 대비 비정상 AUPR을 18% 향상시켜 뛰어난 탐지 성능을 입증한다.
• 결정론적 변형인 SABeR-AE는 비정상 AUPR에서 25% 향상률을 기록하여 구조적 주의 메커니즘이 효과적임을 확인한다.
• 역주행 이질성 탐지에서 STGAE-KDE 대비 AUPR 35% 향상되며, 차선 구조 모델링의 중요성을 입증한다.
• 학습된 코프만 연산자는 잠재 공간에서 해석 가능한 연속적 전이를 강제하며, 비정상 행동이 명확히 별도의 영역 또는 클러스터 간 전이로 맵핑됨을 보여준다.
• 높은 예측 오차를 보이는 이질 궤적은 일관되게 주요 클러스터의 외곽에 위치하는 반면, 정상 궤적은 낮은 오차로 조밀한 클러스터 영역 내에 유지된다.
• 잠재 공간 시각화 결과, 코프만 연산자는 정상 상태에서 비정상 상태로의 행동 변화를 잘 포착한다. 예를 들어, 역주행 전환은 상단에서 하단/중간 클러스터로의 눈에 띄는 점프를 유도하며, 이는 예측 오차 급증과 일치한다.

Figure 2. SABeR-VAE architecture. The SABeR-VAE architecture attempts to predict the one-step future states of vehicles conditioned on current vehicle positions and structural lane information. Vehicle interactions are modeled by the self-attention module while permissible routes are encoded by the