[論文レビュー] Explain to Fix: A Framework to Interpret and Correct DNN Object Detector Predictions

Denis Gudovskiy, Alec Hodgkinson+3 more|arXiv (Cornell University)|Nov 19, 2018

Explainable Artificial Intelligence (XAI)被引用数 7

ひとこと要約

本論文では、勾配ベースのバックプロパゲーションを用いてSHAP特徴重要度値を近似することで、DNNオブジェクト検出器の予測を解釈および是正する高精度で計算効率の良いフレームワーク、Explain to Fix (E2X) を提案する。E2Xは先行手法と比較して10倍速く推論を実行でき、大規模データセットのスケーラブルな分析を可能にするとともに、再訓練によるモデルの頑健性向上に寄与するための欠落した学習特徴の同定を可能にする。

ABSTRACT

Explaining predictions of deep neural networks (DNNs) is an important and nontrivial task. In this paper, we propose a practical approach to interpret decisions made by a DNN object detector that has fidelity comparable to state-of-the-art methods and sufficient computational efficiency to process large datasets. Our method relies on recent theory and approximates Shapley feature importance values. We qualitatively and quantitatively show that the proposed explanation method can be used to find image features which cause failures in DNN object detection. The developed software tool combined into the "Explain to Fix" (E2X) framework has a factor of 10 higher computational efficiency than prior methods and can be used for cluster processing using graphics processing units (GPUs). Lastly, we propose a potential extension of the E2X framework where the discovered missing features can be added into training dataset to overcome failures after model retraining.

研究の動機と目的

• 検出失敗を引き起こす特徴を同定できる、実用的で高精度なDNNオブジェクト検出器予測の解釈手法の開発。
• 監視や自動走行などのリアルタイム応用を想定した大規模データセット処理に十分な計算効率の実現。
• 説明を用いたトレーニングデータにおける欠落または不具合のある特徴の同定を可能にし、再訓練によるモデル是正を支援すること。
• 説明に基づき欠落したトレーニングサンプルの同定・合成または取得を可能にするE2Xフレームワークの自動データセット管理への拡張。

提案手法

• 最近の特徴帰属に関する理論的進展を活用し、勾配ベースのバックプロパゲーションを用いてSHAP（Shapley Additive Explanations）特徴重要度値を近似する。
• 単一ショット検出器（SSD）にこの説明フレームワークを適用することで、予測失敗の空間的局所化された帰属を可能にする。
• 1検出あたりK個のサンプルを用いたパラメータ化されたサンプリング戦略を採用し、GPU上の効率的なバッチ処理を実現する。
• ピixe単位の摂動を回避し、コストの高いフォワードパスに依存しない勾配ベースのサリエンシーマップを用いることで、計算効率を向上させる。
• スーパープixelセグメンテーションを統合することで、予測に影響を与える領域を可視化する解釈可能な注目マスクを生成する。
• 複数のGPUにわたる並列処理をサポートし、LIMEなどの先行手法に見られるCPUボトルネックを解消する。

実験結果

リサーチクエスチョン

• RQ1 勾配ベースの手法が、オブジェクト検出に適した高精度なSHAP値近似を維持しつつ、計算効率を確保できるか。
• RQ2 PDA、LIME、IGといった既存手法と比較して、提案手法の精度と速度はどの程度優れているか。
• RQ3 説明モデルが、オブジェクト検出予測における欠落または不具合のある特徴を信頼性高く同定できるか。
• RQ4 同定された特徴を用いて、データセット拡張および再訓練によりモデル性能をどの程度向上できるか。

主な発見

• E2Xは先行する最先端手法と比較して10倍の計算効率向上を達成しており、LIMEに比べて参考モデルに応じて9–20倍の高速化が実現されている。
• E2Xと参考モデルの特徴重要度マップの相関（E[ρ]）は約0.5であり、LIMEと同等の水準であり、PDA（E[ρ] ≈ 0.2）やIG（E[ρ] < 0.01）と比較して顕著に高い。
• E2Xは説明品質に高く信頼性を示しており、特に失敗要因となる画像領域を正確に同定する点で、参考モデルのマップと密接に一致している。
• フレームワークは大規模データセットのスケーラブルかつGPU並列処理可能な分析を可能にし、監視や自律走行システムにおける実世界の展開に適している。
• 本手法は、検出結果における欠落または不具合のある特徴を効果的に同定でき、これを用いてトレーニングデータを拡張し、モデルの一般化性能を向上させることができる。
• E2Xフレームワークへの拡張により、説明が欠落したトレーニングサンプルの発見または合成を誘導する閉ループ型の自動データセット管理システムの実現が可能になった。