[論文レビュー] Interpretable Self-Aware Neural Networks for Robust Trajectory Prediction

Masha Itkina, Mykel J. Kochenderfer|arXiv (Cornell University)|Nov 16, 2022

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

本稿では、証拠的ディープラーニングを用いて解釈可能な意味的概念（エージェント行動、レーン構造、社会的文脈）におけるエピステミック不確実性を推定する、1回の順伝播のみで動作する1ショット、1回の順伝播による軌道予測フレームワークである解釈可能な自己認識予測（ISAP）を提案する。トレーニング時にOODデータを必要としないが、不確実性推定において最先端のベースラインを上回り、予測精度の劣化を伴わず、安定した性能を発揮する。

ABSTRACT

Although neural networks have seen tremendous success as predictive models in a variety of domains, they can be overly confident in their predictions on out-of-distribution (OOD) data. To be viable for safety-critical applications, like autonomous vehicles, neural networks must accurately estimate their epistemic or model uncertainty, achieving a level of system self-awareness. Techniques for epistemic uncertainty quantification often require OOD data during training or multiple neural network forward passes during inference. These approaches may not be suitable for real-time performance on high-dimensional inputs. Furthermore, existing methods lack interpretability of the estimated uncertainty, which limits their usefulness both to engineers for further system development and to downstream modules in the autonomy stack. We propose the use of evidential deep learning to estimate the epistemic uncertainty over a low-dimensional, interpretable latent space in a trajectory prediction setting. We introduce an interpretable paradigm for trajectory prediction that distributes the uncertainty among the semantic concepts: past agent behavior, road structure, and social context. We validate our approach on real-world autonomous driving data, demonstrating superior performance over state-of-the-art baselines. Our code is available at: https://github.com/sisl/InterpretableSelfAwarePrediction.

研究の動機と目的

• 自律走行車両の認識において一般的に見られる分布外（OOD）状況でのニューラルネットワークの過信問題を是正すること。
• トレーニング時にOODデータを必要とするか、複数回の順伝播を要する既存の不確実性推定手法の限界を克服すること。
• エージェント行動、地図構造、社会的文脈といった意味的に意味のある潜在要因に不確実性を分散させることで、不確実性の解釈可能性を向上させること。
• 1回の推論で動作可能な性能を確保することで、安全が求められるシステムにおけるリアルタイム導入を可能とすること。
• エンジニアや下流の自律走行モジュールが、不確実性の原因を的確に特定できるような実用的インサイトを提供すること。

提案手法

• エージェント行動、高精細地図（HDマップ）、社会的文脈の潜在表現に対して、ディリクレ分布を用いてエピステミック不確実性をモデル化する証拠的ディープラーニングを採用する。
• トレーニング中にOODデータを必要とせず、正規化フローを用いてディリクレ分布のパラメータを制約することで、適切なキャリブレーションを実現する。
• 入力を3つのモダリティ固有のエンコーダーに分解する：エージェント軌道、マップ埋め込み、社会的文脈表現。
• 各意味的コンポonentに対して、個別の不確実性パラメータ α_agent、α_map、α_sc を学習し、解釈可能な不確実性分解を可能にする。
• 個々のディリクレ分布を組み合わせて最終的な出力分布を生成し、合計値 α₀ をグローバルなエピステミック不確実性指標として用いる。
• 尤度に基づく目的関数を用いてエンドツーエンドに学習し、1回の順伝播で不確実性推定を実現する。

実験結果

リサーチクエスチョン

• RQ1 トレーニング時にOODデータを必要とせず、1回の順伝播でエピステミック不確実性を効果的に推定できるか？
• RQ2 エージェント行動、レーン構造、社会的文脈といった解釈可能な意味的要因に、不確実性を意味的に分解できるか？
• RQ3 提案手法による解釈可能な不確実性分解は、エンジニアや下流システムにおける不確実性推定の解釈可能性と診断的価値を向上させるか？
• RQ4 ISAPの不確実性推定性能は、モンテカルロドロップアウトやアンサンブルといった最先端手法と比較して、イン・ドメイン（ID）およびOOD設定で優れているか？
• RQ5 モデルは分布シフトを検出し、その影響を特定の意味的コンポーネントの不確実性に反映させることができるか？

主な発見

• ISAPフレームワークは、モンテカルロドロップアウトやアンサンブルといった最先端のベースラインと比較して、特にOOD入力の検出において優れたエピステミック不確実性推定を達成している。
• 過去の軌道実験では、OOD入力（高速な軌道）では α₀,agent 値がID入力（8137）と比較して著しく低く（69）、不確実性が高まっていることを正しく示している。
• マップベースの実験では、トレーニングで見られなかった円形交差点（roundabouts）を含むOOD入力では、α₀,map 値がID入力（1060）と比較して著しく低く（117）なっており、分布シフトの正しく検出されていることを示している。
• 密集した交通状況を含むIDおよびOODケースでは、社会的文脈の不確実性コンポーネント（α₀,sc）が両方とも高いまま維持されており、このような状況がトレーニングデータに多く含まれており、予想可能なことであることを示している。
• モデルの不確実性分解により、解釈可能なインサイトが得られる。例えば、OODの円形交差点状況では、α₀,map が低くなることで、マップ構造が不確実性の主な要因であることが明確に示されている。
• 不確実性推定を追加しても、ISAPの軌道予測性能はベースラインモデルと同等であり、指標の低下はわずかにとどまっている。