[論文レビュー] Grounded Relational Inference: Domain Knowledge Driven Explainable Autonomous Driving

Chen Tang, Nishan Srishankar+2 more|arXiv (Cornell University)|Feb 23, 2021

Autonomous Vehicle Technology and Safety参考文献 36被引用数 10

ひとこと要約

本稿では、誘導的行動（譲り、割り込みなど）に基づくドメイン知識を関係的潜在空間に統合することで、説明可能な自動運転のための意味的意味を持つ相互作用グラフを生成する、グランド付き関係的推論（GRI）を提案する。潜在変数を熟練者が定義した行動にグランドすることで、GRIは因果的メカニズムと人間が理解可能な交通ルールに整合した説明を保証し、変則的移動シナリオで99.95%の正確性を達成するとともに、ベースラインより高いロバストネスを示した。

ABSTRACT

Explainability is essential for autonomous vehicles and other robotics systems interacting with humans and other objects during operation. Humans need to understand and anticipate the actions taken by the machines for trustful and safe cooperation. In this work, we aim to develop an explainable model that generates explanations consistent with both human domain knowledge and the model's inherent causal relation. In particular, we focus on an essential building block of autonomous driving, multi-agent interaction modeling. We propose Grounded Relational Inference (GRI). It models an interactive system's underlying dynamics by inferring an interaction graph representing the agents' relations. We ensure a semantically meaningful interaction graph by grounding the relational latent space into semantic interactive behaviors defined with expert domain knowledge. We demonstrate that it can model interactive traffic scenarios under both simulation and real-world settings, and generate semantic graphs explaining the vehicle's behavior by their interactions.

研究の動機と目的

• 深層学習モデルの透明性の欠如が、自動運転車両の信頼性と協調性を損なうため、これを解決すること。
• 後処理による説明の曖昧さを克服し、説明がモデルの因果関係と人間のドメイン知識の両方に整合することを保証すること。
• 説明可能な意味的意味を持つ相互作用グラフ（例：譲り、割り込みなど）を生成する関係的推論フレームワークを構築すること。
• 熟練者が定義した相互作用行動を用いて関係的潜在空間をグランドすることで、マルチエージェント交通シナリオにおけるモデルの解釈可能性を向上させること。
• 得られた相互作用グラフが行動を説明するだけでなく、交通ルールや現実世界のダイナミクスに整合したポリシー学習を支援することを検証すること。

提案手法

• GRIは、神経的関係的推論（NRI）を拡張し、潜在的相互作用変数を事前に定義された行動（譲り、割り込みなど）にマッピングする構造的で意味的な報酬関数を導入する。
• 本手法は、意味的相互作用グラフに整合した行動を生成するポリシーを学習するために、敵対的逆強化学習（AIRL）を用いる。
• 観測された相互作用が熟練者が定義した行動と一致するかどうかに基づいて報酬を割り当てる意味的報酬関数を設計し、潜在空間がドメイン知識にグランドされることを保証する。
• 観測された軌跡の尤度を最大化するとともに、潜在変数における情報ボトルネックを最小化する変分推論フレームワークを用いて相互作用グラフを推論する。
• ポリシーデコーダは推論された相互作用グラフを用いて制御行動を生成し、意思決定が解釈可能なエージェント間相互作用に因果的に関連付けられることを保証する。
• 軌跡再構築、ポリシー最適化、構造的報酬関数による意味的グランドを統合した共同目的関数を用いて、エンド・ツー・エンドでモデルを訓練する。

実験結果

リサーチクエスチョン

• RQ1 熟練者が定義した相互作用行動に、関係的潜在空間をグランドすることで、性能を損なわせることなく、自動運転モデルの解釈可能性が向上するか？
• RQ2 意味的報酬関数を組み込むことで、マルチエージェント交通シナリオにおける関係的推論の品質と安定性にどのような影響を与えるか？
• RQ3 推論された相互作用グラフは、人間が理解可能な行動（譲り、割り込みなど）の観点から、車両の行動をどの程度説明できるか？
• RQ4 意味的グランド付きの関係的推論は、エンド・ツー・エンドまたは後処理による説明手法と比較して、よりロバストで汎用性の高いポリシーをもたらすか？
• RQ5 構造的報酬関数を用いた関係的推論において、再構築正確性と意味的解釈可能性の間にはどのようなトレードオフが生じるか？

主な発見

• GRIは、変則的移動シナリオにおいて、相互作用タイプの分類で99.95％の正確性を達成し、GRI-VAIRL（50.0％）およびGRI-AIRL（正確性の報告なし）を著しく上回り、意味的グランドの必要性を示した。
• 車両追従シナリオでは、GRI-VAIRL（意味的報酬なし）は100％の正確性を達成し、GRI-AIRLより低いRMSEを示し、関係的推論自体が安定性と収束性を向上させることを示した。
• GRIは、車両追従シナリオにおいて、x座標（0.241±0.125 m）および速度（0.174±0.068 m/s）のRMSEが最小であり、優れた再構築性能を示した。
• GRI-VAIRLバージョンは、変則的移動シナリオにおける正確性が低くても、収束が早く、ハイパーパrameterへの感受性が低く、関係的推論が訓練の安定性を向上させることを示唆した。
• 意味的報酬関数の導入により、再構築性能がわずかに低下したが、これは解釈可能性とモデリング能力の間のトレードオフを示している。
• 合成シナリオにおいて、GRIは真の意味的意味を持つ相互作用グラフを正しく推論できており、GRIが現実世界の行動（譲り、割り込みなど）に対応する意味的意味を持つエッジタイプを生成した。