[論文レビュー] Explainable Artificial Intelligence: a Systematic Review

Giulia Vilone, Luca Longo|arXiv (Cornell University)|May 29, 2020

Explainable Artificial Intelligence (XAI)参考文献 307被引用数 90

ひとこと要約

XAI文献を4つの主要クラスタ—レビュー、概念、手法、評価—に分類し、最先端と今後の方向性を概説する体系的レビュー。

ABSTRACT

Explainable Artificial Intelligence (XAI) has experienced a significant growth over the last few years. This is due to the widespread application of machine learning, particularly deep learning, that has led to the development of highly accurate models but lack explainability and interpretability. A plethora of methods to tackle this problem have been proposed, developed and tested. This systematic review contributes to the body of knowledge by clustering these methods with a hierarchical classification system with four main clusters: review articles, theories and notions, methods and their evaluation. It also summarises the state-of-the-art in XAI and recommends future research directions.

研究の動機と目的

• 明確な境界とグルーピングを定義することにより、膨大なXAI文献を整理する。
• XAI研究の階層的分類システムを提示する。
• XAIにおける最先端の概念、概念、評価アプローチを要約する。
• XAIにおける今後の研究方向と未解決の課題を推奨する。

提案手法

• Google Scholarを用いて、'explainable artificial intelligence', 'explainable machine learning', 'interpretable machine learning'という語で説明可能性に関する文献を検索する。
• 2段階の論文選定を実施する：フェーズ1で約200件の査読済み論文を特定し、フェーズ2で参考文献を分析して約100件の記事へ収束させる。
• 選択された研究を4つの主要カテゴリに分類する：レビュー、概念、手法、評価。
• 個別論文を葉として持つ、XAI文献の樹状階層マップを構築する。
• 説明可能性に関連する概念を統合し、HCI文献から評価概念と指標を概説する。

実験結果

リサーチクエスチョン

• RQ1 説明可能なAI文献の主なカテゴリと境界は何か？
• RQ2 説明可能性の概念は研究を跨いでどのように定義され、実用化されているか？
• RQ3 説明可能性のためのどのような手法があり、それらはどのように評価されているか？
• RQ4 XAIにおける特定された今後の方向性と課題は何か？
• RQ5 レビューは異なる領域に跨る多様なXAIアプローチをどのように整理・統合しているか？

主な発見

• XAI文献の4つの主なカテゴリが特定された：レビュー、概念、新しい説明可能性の手法、および説明可能性の評価。
• 木構造の階層マップはカテゴリ間の分布と依存関係を示し、レビューが概念、手法、評価に依存することを強調する。
• レビューは適用分野、構築手法、理論と概念、出力形式、問題タイプ、一般的/システマティックレビューの周りにクラスタリングされる。
• 説明はテキスト、視覚、またはルールベースの形式を取り得、効果は信頼、因果関係、完全性、理解性といった概念に結びつく。
• 倫理的・法的文脈（例：GDPRの説明権）は、透明で説明可能なシステムの必要性を促進する。
• 文献は、人間中心の要因と、説明可能性を定義し説明を評価する際のHCI、認知科学、哲学からの学際的洞察を強調する。