[論文レビュー] One Explanation Does Not Fit All: A Toolkit and Taxonomy of AI Explainability Techniques

Vijay Arya, Rachel Bellamy+18 more|arXiv (Cornell University)|Sep 6, 2019

Explainable Artificial Intelligence (XAI)参考文献 46被引用数 263

ひとこと要約

本論文は、AI Explainability 360 (AIX360)、8つの説明可能性手法と2つの評価指標を備えたオープンソースツールキットと、多様な利害関係者に説明を適合させる実践的な分類法を提示する。

ABSTRACT

As artificial intelligence and machine learning algorithms make further inroads into society, calls are increasing from multiple stakeholders for these algorithms to explain their outputs. At the same time, these stakeholders, whether they be affected citizens, government regulators, domain experts, or system developers, present different requirements for explanations. Toward addressing these needs, we introduce AI Explainability 360 (http://aix360.mybluemix.net/), an open-source software toolkit featuring eight diverse and state-of-the-art explainability methods and two evaluation metrics. Equally important, we provide a taxonomy to help entities requiring explanations to navigate the space of explanation methods, not only those in the toolkit but also in the broader literature on explainability. For data scientists and other users of the toolkit, we have implemented an extensible software architecture that organizes methods according to their place in the AI modeling pipeline. We also discuss enhancements to bring research innovations closer to consumers of explanations, ranging from simplified, more accessible versions of algorithms, to tutorials and an interactive web demo to introduce AI explainability to different audiences and application domains. Together, our toolkit and taxonomy can help identify gaps where more explainability methods are needed and provide a platform to incorporate them as they are developed.

研究の動機と目的

• 多様な利用者ペルソナを考慮した、AI explainability 手法の領域全体を網羅する総合的な分類法を提供する。
• データ、モデル、予測の各段階を横断して複数の explainability 手法を実装する、拡張性のあるオープンソースツールキット（AIX360）を開発する。
• データサイエンティストと非技術的な利害関係者の実務的な使いやすさを向上させるため、既存の explainability 手法を強化する。
• 分野を超えて explainability の概念の普及を広げる教育教材、チュートリアル、デモを提供する。

提案手法

• 何を説明するか、どのように説明するか、どのレベル（local/global）で説明するかによって explainability 手法を整理する分類法を導入する。
• 分類法の葉を AIX360 内の具体的な explainability アルゴリズムに対応づける拡張性のあるソフトウェアアーキテクチャを説明する。
• eight explainability algorithms の実装（例：BRCG, GLRM, ProtoDash, ProfWeight, TED, CEM, CEM-MAF, DIP-VAE）と二つの指標（Faithfulness, Monotonicity）。
• scikit-learn に似た API 設計を提供し、アルゴリズム開発者による拡張とデータ、モデル、および予測の説明子間での再利用を可能にする。
• 手法をより使いやすくするための強化（例：BRCG-light、TED data synthesis）を提示し、非専門家向けのインタラクティブなウェブデモを構築する。

実験結果

リサーチクエスチョン

• RQ1 簡易な分類法が、異なるアプリケーションやステークホルダーに適した explainability 手法の選択をどのように支援できるか？
• RQ2 AI モデリングパイプライン全体で多様な explainability 技術を統合する、スケーラブルなソフトウェアアーキテクチャとは何か？
• RQ3 既存の explainability 手法を、実務運用と非技術的な聴衆へのアクセス性の向上のためにどのように強化できるか？
• RQ4 教育用教材とデモは、実世界の領域（例：融資や医療）で explainability の普及を広げることができるか？

主な発見

• 提案された分類法は、データ/モデル/予測のニーズと local/global、static/interactive の観点に基づいて手法選択を導く意思決定ツリーとして機能する。
• AIX360 は eight explainability methods と two evaluation metrics を提供し、それらを拡張性のある Python アーキテクチャ内の分類法にマッピングする。
• 本論文は、実世界の文脈での採用と使いやすさを向上させる実用的な強化（例：BRCG-light、TED data synthesis）を実証する。
• このツールキットには、教育用教材、チュートリアル、分野を横断した非専門家への explainability の導入を目的としたインタラクティブなウェブデモが含まれる。