[論文レビュー] Benchmarking and Survey of Explanation Methods for Black Box Models

Francesco Bodria, Fosca Giannotti+4 more|arXiv (Cornell University)|Feb 25, 2021

Explainable Artificial Intelligence (XAI)被引用数 54

ひとこと要約

本論文は、説明手法を、説明の種類とデータ形式（表形式、画像、テキスト）で分類し、定性的・定量的の両方でベンチマークし、モデルと適切な説明可能手法の対応を示すとともに、再現可能な評価フレームワークを提供する。

ABSTRACT

The widespread adoption of black-box models in Artificial Intelligence has enhanced the need for explanation methods to reveal how these obscure models reach specific decisions. Retrieving explanations is fundamental to unveil possible biases and to resolve practical or ethical issues. Nowadays, the literature is full of methods with different explanations. We provide a categorization of explanation methods based on the type of explanation returned. We present the most recent and widely used explainers, and we show a visual comparison among explanations and a quantitative benchmarking.

研究の動機と目的

• 説明の種類とデータ形式（表形式、画像、テキスト）に基づく、説明手法の新しいオントロジー／分類を提供する。
• 最も最近かつ広く用いられている説明手法を調査し、定性的・定量的な比較を提示する。
• 忠実性、安定性、ロバスト性、実行時間の観点で説明手法をベンチマークし、ブラックボックスモデルを適合する説明手法へマッピングする。
• 評価フレームワークを通じて説明手法の選択ガイダンスを提供し、信頼できるAIの促進に役立てる。

提案手法

• 説明のタイプとデータ形式で説明を分類し、XAI手法のオントロジーを構築する。
• 2018年以降の実用的な実装がある最新かつ広く採用されている説明手法をレビュー・要約する。
• 結果の解釈を他の手法間で容易にするため、説明の定性的比較を提供する。
• 代表的なデータセットを用いて、忠実度（faithfulness）、安定性、ロバスト性、実行時間に焦点を当てた定量的ベンチマークを実施する。
• 公的なコードベース（XAI-Survey）と標準ハードウェアでの実験設定を用いて再現性を示す。

実験結果

リサーチクエスチョン

• RQ1 ブラックボックスモデルの説明タイプとデータ形式によって、説明手法をどのように分類できるか？
• RQ2 主要な説明手法は、一般的なデータタイプ（表形式、画像、テキスト）とモデルに対して、どれだけ忠実で、安定で、ロバストで、効率的か？
• RQ3 実務家は、与えられたブラックボックスモデルを、透明性と信頼性の要件を満たすように、どのように適合する説明手法へマッピングできるか？
• RQ4 どのデータセット、タスク、評価プロトコルが、説明手法の長所と限界を最もよく明らかにするか？
• RQ5 XAIベンチマークにおける再現性の役割は何か、そしてそれをどう促進できるか？

主な発見

• 表形式、画像、テキストデータに跨る説明手法の総合的な分類（オントロジー）を提供する。
• 広く用いられている説明手法を定性的・定量的ベンチマークで要約・比較する。
• 忠実性、安定性、ロバスト性、効率性のトレードオフを理解しつつ、説明手法を選択するための実用的なガイドラインを強調する。
• 説明をベンチマークする再現可能な評価フレームワークと公開コードベースを提供する。
• Explainability benchmarking and methodologyにおけるギャップと今後の研究方向を特定する。