[論文レビュー] Explainability of vision-based autonomous driving systems: Review and challenges.

Éloi Zablocki, Hedi Ben-younes+2 more|arXiv (Cornell University)|Jan 13, 2021

Explainable Artificial Intelligence (XAI)参考文献 202被引用数 30

ひとこと要約

本サーベイは、視覚ベースの自律走行システムにおける説明可能性手法について包括的なレビューを提供し、後処理による説明技術と本質的に解釈可能なシステム設計の両方をカバーする。安全性が重要な環境における自律走行システムの透明性と信頼性を高めるために、主な課題と今後の研究方向性を特定する。

ABSTRACT

This survey reviews explainability methods for vision-based self-driving systems. The concept of explainability has several facets and the need for explainability is strong in driving, a safety-critical application. Gathering contributions from several research fields, namely computer vision, deep learning, autonomous driving, explainable AI (X-AI), this survey tackles several points. First, it discusses definitions, context, and motivation for gaining more interpretability and explainability from self-driving systems. Second, major recent state-of-the-art approaches to develop self-driving systems are quickly presented. Third, methods providing explanations to a black-box self-driving system in a post-hoc fashion are comprehensively organized and detailed. Fourth, approaches from the literature that aim at building more interpretable self-driving systems by design are presented and discussed in detail. Finally, remaining open-challenges and potential future research directions are identified and examined.

研究の動機と目的

• 視覚ベースの自律走行、安全性が重要な応用分野における解釈可能性と説明可能性の重要なニーズに対応する。
• ブラックボックスの自律走行システムを後処理で説明する最先端のアプローチを統合・分類する。
• 初期段階から透明性を高める本質的に解釈可能なシステム設計を検討する。
• 自律走行における説明可能AIの今後の研究を導くために、未解決の課題を特定する。

提案手法

• 自律走行システムにおける説明可能性の定義、文脈、動機を体系的にレビューする。
• 最近の最先端の視覚ベースの自律走行アーキテクチャを分類・分析する。
• 類似度マップ、注目可視化、対向的説明などの後処理説明手法を整理・詳細に記述する。
• 注目メカニズム、モジュラー畳み込みニューラルネットワーク、記号的推論を含む本質的に解釈可能なアプローチを検討する。
• コンピュータビジョン、ディープラーニング、XAIの知見を統合し、手法的トレードオフを評価する。
• 既存の文献の厳密な分析を通じて、ギャップと今後の研究方向性を同定する。

実験結果

リサーチクエスチョン

• RQ1 視覚ベースの自律走行システムにおける説明可能性の主な動機と文脈的要因は何ですか？
• RQ2 類似度マップや注目可視化などの後処理説明手法は、自律走行システムにおけるブラックボックスモデルの理解をどのように向上させますか？
• RQ3 本質的に解釈可能な自律走行システムを設計するための設計原則は何ですか？また、それらは後処理手法と比べてどのように異なりますか？
• RQ4 自律走行システムにおいて信頼性があり実用的な説明を達成するための主な未解決課題は何ですか？
• RQ5 安全性が重要な走行応用分野における説明可能AIを進歩させるために、最も有望な今後の研究方向性は何ですか？

主な発見

• 意思決定における安全性と社会的影響が極めて高いことから、自律走行において説明可能性は不可欠である。
• Grad-CAM や GradCAM++ などの後処理説明手法は、入力画像内の関連する視覚的特徴を強調するために広く使用されている。
• 注目ベースやモジュラー構造を備えた本質的に解釈可能なモデルは、透明性を向上させるが、性能や複雑さの犠牲を伴うことが多い。
• 自律走行システムにおける説明の質を評価するための標準化されたプロトコルがまだ存在しない。
• 現在の手法は、多様な走行シナリオ下で忠実で頑健かつ人間が理解可能な説明を提供するのが困難である。
• 今後の研究では、ユーザー中心の説明設計、評価ベンチマーク、説明可能AIにおける因果推論の統合を優先すべきである。