[論文レビュー] XRAI: Better Attributions Through Regions

Andrei Kapishnikov, Tolga Bolukbasi+2 more|arXiv (Cornell University)|Jun 6, 2019

Explainable Artificial Intelligence (XAI)参考文献 29被引用数 7

ひとこと要約

XRAI は、統合勾配を用いて反復的に重要な画像セグメントを同定・統合することで、類似度マップを向上させる、新しい領域ベースの帰属割り当て手法である。ImageNet において既存手法を上回り、弱教師付き局在化において AUC (0.836) と F1 (0.786) が向上した。また、信頼性の高い評価のため、パフォーマンス情報曲線 (PICs) と、摂動に基づく健全性チェックを導入した。

ABSTRACT

Saliency methods can aid understanding of deep neural networks. Recent years have witnessed many improvements to saliency methods, as well as new ways for evaluating them. In this paper, we 1) present a novel region-based attribution method, XRAI, that builds upon integrated gradients (Sundararajan et al. 2017), 2) introduce evaluation methods for empirically assessing the quality of image-based saliency maps (Performance Information Curves (PICs)), and 3) contribute an axiom-based sanity check for attribution methods. Through empirical experiments and example results, we show that XRAI produces better results than other saliency methods for common models and the ImageNet dataset.

研究の動機と目的

• 深層学習の予測に影響を与える意味的意味のある画像領域をより正確かつ堅牢に特定できる類似度手法の開発。
• 複数のオブジェクトを含む複雑なシーンにおいて、粗い出力や一般化性の低いピクセルレベルの帰属割り当て手法の限界を解消すること。
• 視覚的直感と標準的な局在化指標に整合する新しい評価フレームワークの導入。
• 入力摂動が顕著な出力変化を引き起こす場合に帰属割り当てが正しく反応するかどうかを検証する健全性チェックの提供。
• ピクセルレベルの手法に比べ、領域レベルの帰属割り当てがより信頼性が高く解釈可能な説明を提供できることの実証。

提案手法

• XRAI は、類似度基準（例：色）を用いて入力画像を過剰にセグメント化（スーパーピクセルに分割）する。
• 各セグメントに対して統合勾配帰属割り当てを計算し、予測の重要度で順位付けを行う。
• 最もスコアの高いセグメントを段階的に統合することで、密着的かつ意味的に一貫性のある類似度領域を形成する。
• 入力摂動が非ゼロの出力変化を引き起こす場合に帰属割り当てが非ゼロであることを検証する摂動ベースの健全性チェックを用いる。
• パフォーマンス情報曲線 (PICs) は、最も顕著な領域を段階的に鋭くし、モデルのパフォーマンスと画像エントロピー（WebP 圧縮を用いて）を測定することで構築される。
• 類似度品質の評価のため、情報量の関数として予測精度とソフトマックス信頼度を測定する Accuracy Information Curves (AICs) と Softmax Information Curves (SICs) の2つの指標を導入した。

実験結果

リサーチクエスチョン

• RQ1 領域ベースの帰属割り当て手法は、統合勾配のようなピクセルレベルの手法よりも、より正確で解釈可能な類似度マップを生成できるか？
• RQ2 情報量の関数としての予測力の指標を用いた場合、異なる類似度手法の性能はどのように評価されるか？
• RQ3 出力変化が顕著に生じる摂動が加えられた場合、既存の類似度手法が健全性チェックに失敗するのか？
• RQ4 提案された評価フレームワーク（PICs）は、視覚的検査と標準的な局在化指標と整合的に類似度手法を効果的にランク付けできるか？
• RQ5 XRAI の領域拡大戦略は、単一の円形領域に偏る GradCAM よりも、複雑な画像における複数オブジェクトの局在化をより効果的に行えるか？

主な発見

• XRAI は ImageNet セグメンテーションデータセットで AUC 0.836、F1 0.786 を達成し、GradCAM (AUC 0.742、F1 0.715) や統合勾配の変種を顕著に上回った。
• SIC 指標において、XRAI は ResNet50-V2 で曲線下積分面積 0.749、Inception で 0.720 を達成し、GradCAM や異なるベースラインを用いた IG など、他のすべての手法を上回った。
• 摂動ベースの健全性チェックにより、勾配、勾配×入力、統合勾配は、感度の高い特徴が大きな出力変化を引き起こすが帰属割り当てがゼロとなる場合に失敗することが判明した。
• 図1 で示されるように、XRAI の領域レベル帰属割り当てはピクセルレベルの IG よりもより堅牢であった。高勾配領域の合計がほぼゼロであっても、正しく除外されていた。
• パフォーマンス情報曲線 (PICs) は、視覚的類似度品質と定量的ランク付けの間で強い整合性を示し、フレームワークの有効性を裏付けた。
• 視覚的比較により、XRAI は鳥や犬などの複数のオブジェクトを、重複のない密着的領域でより適切に局在化していることが示された。一方、GradCAM は中心部や円形領域に偏る傾向を示した。