[論文レビュー] Structural Attention-Based Recurrent Variational Autoencoder for Highway Vehicle Anomaly Detection

Neeloy Chakraborty, A S M Mahmudul Hasan+5 more|arXiv (Cornell University)|Jan 9, 2023

Anomaly Detection Techniques and Applications被引用数 7

ひとこと要約

本稿では、走行車両の異常検出を目的とした非教師付き構造的アテンションベースの再帰的変分オートエンコーダー、SABeR-VAEを提案する。本手法は、レーン構造と車両間相互作用を明示的にモデル化する。レーン-車両アテンションとKoopman作用素正則化された潜在空間を統合することで、MAADデータセットにおいてSTGAE-KDEに比べて異常検出AUPRを18%向上させた。また、逆走などの異常行動を捉える解釈可能な潜在空間遷移を実現した。

ABSTRACT

In autonomous driving, detection of abnormal driving behaviors is essential to ensure the safety of vehicle controllers. Prior works in vehicle anomaly detection have shown that modeling interactions between agents improves detection accuracy, but certain abnormal behaviors where structured road information is paramount are poorly identified, such as wrong-way and off-road driving. We propose a novel unsupervised framework for highway anomaly detection named Structural Attention-Based Recurrent VAE (SABeR-VAE), which explicitly uses the structure of the environment to aid anomaly identification. Specifically, we use a vehicle self-attention module to learn the relations among vehicles on a road, and a separate lane-vehicle attention module to model the importance of permissible lanes to aid in trajectory prediction. Conditioned on the attention modules' outputs, a recurrent encoder-decoder architecture with a stochastic Koopman operator-propagated latent space predicts the next states of vehicles. Our model is trained end-to-end to minimize prediction loss on normal vehicle behaviors, and is deployed to detect anomalies in (ab)normal scenarios. By combining the heterogeneous vehicle and lane information, SABeR-VAE and its deterministic variant, SABeR-AE, improve abnormal AUPR by 18% and 25% respectively on the simulated MAAD highway dataset over STGAE-KDE. Furthermore, we show that the learned Koopman operator in SABeR-VAE enforces interpretable structure in the variational latent space. The results of our method indeed show that modeling environmental factors is essential to detecting a diverse set of anomalies in deployment. For code implementation, please visit https://sites.google.com/illinois.edu/saber-vae.

研究の動機と目的

• 既存の異常検出モデルが、車両相互作用のみをモデル化する場合に、環境構造に依存する異常（例：逆走）を多く見逃すという限界を是正すること。
• トラジェクトリ予測に明示的な道路構造（レーンレイアウト）を組み込むことで、自律走行における非教師付き異常検出の性能を向上させること。
• Koopman作用素を用いた潜在空間の構造的・連続的表現により、異常遷移を明示的に符号化することで、モデルの解釈性を高めること。
• 非相互作用的、レーン外、逆走走行などの多様な異常タイプにわたる高い検出性能を達成すること。
• 実世界の高速道路シナリオにおけるロバストかつ汎用的な異常検出において、環境的文脈と相互作用モデリングが不可欠であることを示すこと。

提案手法

• 本モデルは、高速道路シナリオにおける近隣車両間の動的相互作用を捉えるための車両自己アテンションモジュールを用いる。
• 別個のレーン-車両アテンションモジュールにより、許容可能なレーンと車両行動との関連性をモデル化し、道路構造を予測プロセスに組み込む。
• 確率的潜在空間を備えた再帰的エンコーダ-デコーダアーキテクチャを採用し、Koopman作用素による正則化を施して、注目特徴量から将来的な車両トレースを予測する。
• 正常トレースにおける再構成誤差に基づいて、潜在空間をエンドツーエンドで学習させ、高い予測誤差によって異常検出を実現する。
• Koopman作用素により、潜在空間内での解釈可能で滑らかな遷移を強制し、正常状態から異常状態への行動シフトの可視化を可能にする。
• アブレーションと比較のため、決定的バージョンのSABeR-AEも評価されている。

Figure 1. Map discretization and interaction edges. We model the vehicle AD problem as an interaction graph with vehicle and lane nodes. A continuous map of the road is discretized into blocks. Directed lane edges between lane nodes encode permissible routes for vehicles. The red vehicle has a direc

実験結果

リサーチクエスチョン

• RQ1 明示的なレーン構造モデリングが、逆走走行のような環境依存的異常の検出に寄与するか。
• RQ2 車両相互作用と道路構造の両方を組み込むことで、高速道路シナリオにおける非教師付き異常検出の性能とロバスト性がどのように向上するか。
• RQ3 変分オートエンコーダーが学習した潜在空間が、異常行動遷移の解釈可能な表現をどの程度提供できるか。
• RQ4 Koopman作用素正則化により、現実世界の行動シフトを反映するより構造的かつ意味のある潜在ダイナミクスが得られるか。
• RQ5 SABeR-VAEは、非相互作用的および高影響度の行動を含む多様な異常タイプにおいて、SOTAモデル（例：STGAE-KDE）と比較してどのように優れているか。

主な発見

• SABeR-VAEは、シミュレーテッドMAAD高速道路データセットにおいて、STGAE-KDEに比べて異常AUPRを18%向上させ、優れた検出性能を示した。
• 決定的バージョンのSABeR-AEは、異常AUPRで25%の向上を達成し、構造的アテンション機構の有効性を裏付けた。
• 逆走走行異常の検出において、STGAE-KDEに比べてAUPRが35%向上した。これは、レーン構造モデリングの重要性を強調する結果である。
• 学習されたKoopman作用素は、解釈可能で連続的な潜在空間遷移を強制し、異常行動が明確に別個の領域やクラスタ間遷移としてマップされている。
• 高い予測誤差を示す異常トレースは一貫して主要クラスタの外縁部に符号化される一方、正常で低誤差のトレースは密集したクラスタ領域内に留まる。
• 潜在空間の可視化から、Koopman作用素が正常から異常行動へのシフト（例：逆走ターンにより上部クラスタから下部／中央クラスタへの明確なジャンプ）を捉えていることが確認された。これは予測誤差のスパイクと整合的である。

Figure 2. SABeR-VAE architecture. The SABeR-VAE architecture attempts to predict the one-step future states of vehicles conditioned on current vehicle positions and structural lane information. Vehicle interactions are modeled by the self-attention module while permissible routes are encoded by the