[論文レビュー] Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges toward Responsible AI

Alejandro Barredo Arrieta, Natalia Díaz-Rodríguez+10 more|arXiv (Cornell University)|Oct 22, 2019

Explainable Artificial Intelligence (XAI)被引用数 34

ひとこと要約

オーディエンス志向の解釈を用いてXAIにおける説明可能性を定義し、透明モデルと事後手法の分類法を提示し、課題を分析し、プライバシー・公平性・データ融合の含意を含む責任あるAIについて議論する、総合的な survey.

ABSTRACT

In the last years, Artificial Intelligence (AI) has achieved a notable momentum that may deliver the best of expectations over many application sectors across the field. For this to occur, the entire community stands in front of the barrier of explainability, an inherent problem of AI techniques brought by sub-symbolism (e.g. ensembles or Deep Neural Networks) that were not present in the last hype of AI. Paradigms underlying this problem fall within the so-called eXplainable AI (XAI) field, which is acknowledged as a crucial feature for the practical deployment of AI models. This overview examines the existing literature in the field of XAI, including a prospect toward what is yet to be reached. We summarize previous efforts to define explainability in Machine Learning, establishing a novel definition that covers prior conceptual propositions with a major focus on the audience for which explainability is sought. We then propose and discuss about a taxonomy of recent contributions related to the explainability of different Machine Learning models, including those aimed at Deep Learning methods for which a second taxonomy is built. This literature analysis serves as the background for a series of challenges faced by XAI, such as the crossroads between data fusion and explainability. Our prospects lead toward the concept of Responsible Artificial Intelligence, namely, a methodology for the large-scale implementation of AI methods in real organizations with fairness, model explainability and accountability at its core. Our ultimate goal is to provide newcomers to XAI with a reference material in order to stimulate future research advances, but also to encourage experts and professionals from other disciplines to embrace the benefits of AI in their activity sectors, without any prior bias for its lack of interpretability.

研究の動機と目的

• ML/AI における説明可能性の統一された、オーディエンス中心の定義を提供する。
• 透明モデルと事後説明の両方を網羅するXAIの分類法を開発し、Deep Learning特有のアプローチを含む。
• XAIとデータ融合における目標・方法・課題を特定するため文献を調査する。
• 責任あるAIの枠組みにおけるプライバシー・堅牢性・機密性への示唆を論じる。
• 実践的で責任あるAIの普及を進めるための将来の方向性と研究ニーズを概説する。

提案手法

• 説明可能性の定義をオーディエンス志向の理解可能性に基づかせる。
• MLモデルを、設計上透明な透明性（by-design）と事後手法による説明可能性に分類し、透明性のレベル（アルゴリズム的透明性、分解可能性、シミュラビリティ）を設定する。
• 一般的なMLモデルの説明可能性（Deepを含む非Deepも）用と、Deep Learningの説明（層ごと、表現、アテンション）専用の2つの分類法を構築する。
• 約400件の貢献をレビューして目標と手法を特定し、これらを統合した一貫した枠組みに統合する。
• 責任あるAIの枠組みの下で、XAIとデータ融合・プライバシー・セキュリティの相互作用を論じる。

実験結果

リサーチクエスチョン

• RQ1 意図されたオーディエンスと目的を考慮して、説明可能性をどのように定義できるか？
• RQ2 透明および事後アプローチの両方に対するXAI手法の既存の分類法と分類は何か？
• RQ3 XAIを推進する目的は学際的に何で、どのようにオーディエンスやアプリケーションに対応するか？
• RQ4 説明可能性の評価や、Deep Learningとデータ融合の文脈でのXAI適用に残る課題は何か？
• RQ5 公正性、説明責任、プライバシーを含むより広い責任あるAIの概念に、XAIはどのように貢献できるか？

主な発見

• 特定のオーディエンスに対して提供される詳細と理由を強調する、オーディエンス志向の新しいExplainable MLの定義を提案する。
• 2つの包括的な分類法を開発する： (1) MLモデルの説明可能性（設計上透明と事後）、(2) Deep Learningの説明手法で、DLの特性に関連する基準を備える。
• 信頼性、因果性、移転性、情報性、確信、公平性、アクセス性、対話性、プライバシー意識などの広範なXAI目標を特定し、それらを対象となるオーディエンスに対応づけて整理する。
• 説明可能性の普遍的に受け入れられた単一の定義が存在しないことを強調し、説明可能性とその品質を評価する指標の必要性を強調する。
• データ融合、プライバシー、敵対的環境に対する堅牢性、責任あるAI内のガバナンスとの交差点での課題について論じる。
• 実世界の展開において、説明可能性を公正性と説明責任とともに中央に据える枠組みとして責任あるAIを提唱する。