[論文レビュー] Explainable Object-induced Action Decision for Autonomous Vehicles

Yiran Xu, Xiaoyin Yang+5 more|arXiv (Cornell University)|Mar 20, 2020

Explainable Artificial Intelligence (XAI)参考文献 43被引用数 6

ひとこと要約

本稿では、障害要因となる物体に注目することで、自動運転車両の意思決定を説明可能にする新しいフレームワークを提案する。BDD-OIAデータセットとマルチタスク畳み込みニューラルネットワーク（CNN）アーキテクチャを導入することで、説明の監視によって行動予測の精度が向上し、意思決定が因果的状況推論に基づくことでモデル性能が向上することを示している。

ABSTRACT

A new paradigm is proposed for autonomous driving. The new paradigm lies between the end-to-end and pipelined approaches, and is inspired by how humans solve the problem. While it relies on scene understanding, the latter only considers objects that could originate hazard. These are denoted as action-inducing, since changes in their state should trigger vehicle actions. They also define a set of explanations for these actions, which should be produced jointly with the latter. An extension of the BDD100K dataset, annotated for a set of 4 actions and 21 explanations, is proposed. A new multi-task formulation of the problem, which optimizes the accuracy of both action commands and explanations, is then introduced. A CNN architecture is finally proposed to solve this problem, by combining reasoning about action inducing objects and global scene context. Experimental results show that the requirement of explanations improves the recognition of action-inducing objects, which in turn leads to better action predictions.

研究の動機と目的

• エンドツーエンドとパイプライン型システムのハイブリッドアプローチを提案することで、自動運転における解釈可能性と性能のギャップを是正すること。
• すべてのシーン要因ではなく、行動を引き起こす要因となる物体（行動を引き起こす状態変化を示すもの）に焦点を当てる。
• 行動予測とその説明を同時に予測するマルチタスク学習問題として定式化し、モデルの頑健性と解釈可能性を向上させること。
• 複雑なドライブシーンを対象に、4つの行動と21種類の説明をアノテートした新しいデータセットBDD-OIAを開発すること。
• 説明の監視が、因果的根拠に基づいたより豊かな監視を提供することで、行動予測の性能向上に寄与することを実証すること。

提案手法

• 共通のCNNバックボーンを用いて、行動予測と説明予測を同時に実行するマルチタスクディープラーニングフレームワークを提案する。
• シーン内の行動誘発要因となる物体の検出と局所化に、Faster R-CNNを活用する。
• 検出された物体が行動意思決定にどの程度関連しているかを推論するためのグローバルシーンコンテキストモジュールを導入する。
• 行動予測と説明生成の両方を同時に最適化するための統合損失関数を用いる。
• 説明を有限の意味的クラスにマッピングすることで、生成的モデリングではなく分類ベースの説明生成を可能にする。
• 説明を特定の物体に固定することで、観察可能なシーン要因に根拠を持たせるとともに、行動と因果的に関連付ける。

実験結果

リサーチクエスチョン

• RQ1 行動と説明の共同予測が、自動運転における行動認識の精度を向上させることができるか？
• RQ2 説明の監視が、行動誘発要因となる物体の検出と推論にどのように影響を与えるか？
• RQ3 局所的物体特徴と比較して、グローバルシーン特徴からの文脈的推論が、説明の質にどの程度寄与するか？
• RQ4 生成的説明手法やエンドツーエンド手法と比較して、説明を分類タスクとしてモデル化することで性能が向上するか？
• RQ5 1フレームあたり複数の可能な行動を含めることで、データの不均衡が緩和され、一般化性能が向上するか？

主な発見

• 説明の監視を追加することで、行動予測の精度が顕著に向上し、説明が単なる後向き解釈ではなく、能動的な学習信号であることが示された。
• 説明を同時に予測することで、行動誘発要因となる物体の検出精度が向上し、関連するシーン要素への注視が強化された。
• グローバルシーンコンテキストは、局所的物体特徴よりも説明の質に寄与していることが示され、文脈的推論が意味のある説明を生成する鍵であることが示唆された。
• マルチタスク定式化により、一般的な行動（例：「前進」や「減速」）を過剰に予測する傾向が軽減され、より豊かな監視による性能向上が達成された。
• IMUデータに基づく単一行動予測では深刻なクラス不均衡が生じ、一般化性能が著しく低下するが、複数行動予測によりデータの多様性が向上し、珍しい行動（例：「左折」や「右折」）の性能も向上した。
• 定性的な結果から、モデルは交通標識や歩行者といった重要な行動誘発要因となる物体を正しく特定している一方で、駐車車両や歩道の歩行者といった非関連要素は無視していることが確認された。