[論文レビュー] A multi-component framework for the analysis and design of explainable artificial intelligence

Shahin Atakishiyev, Housam Khalifa Bashier Babiker+7 more|arXiv (Cornell University)|May 5, 2020

Explainable Artificial Intelligence (XAI)参考文献 49被引用数 8

ひとこと要約

本論文は、説明可能性の質を5段階（基本的解釈から対話的で説明対象者特化型の因果的推論まで）に体系的に整理するマルチコンponentフレームワークを提案する。説明、因果性、認知的評価の歴史的概念を統合した原理的で整合性のあるアーキテクチャを構築し、信頼性のあるAIシステムに対する需要に応えるために、測定可能で評価可能かつ再現可能な説明を重視する。

ABSTRACT

The rapid growth of research in explainable artificial intelligence (XAI) follows on two substantial developments. First, the enormous application success of modern machine learning methods, especially deep and reinforcement learning, which have created high expectations for industrial, commercial and social value. Second, the emergence of concern for creating trusted AI systems, including the creation of regulatory principles to ensure transparency and trust of AI systems.These two threads have created a kind of "perfect storm" of research activity, all eager to create and deliver it any set of tools and techniques to address the XAI demand. As some surveys of current XAI suggest, there is yet to appear a principled framework that respects the literature of explainability in the history of science, and which provides a basis for the development of a framework for transparent XAI. Here we intend to provide a strategic inventory of XAI requirements, demonstrate their connection to a history of XAI ideas, and synthesize those ideas into a simple framework to calibrate five successive levels of XAI.

研究の動機と目的

• 説明、因果性、解釈可能性といった多様な概念を統合する、原理的で歴史的根拠を持つ説明可能AI（XAI）フレームワークの欠如に応えること。
• 解釈可能性、説明、因果性といった用語が混同されたり、明確に定義されていないことが原因で生じるXAI研究分野の混乱を解消すること。
• 基本的な表現から対話的でユーザー特化型の因果的推論に至るまで、説明の質の段階を明確に区別する構造的かつスケーラブルなフレームワークを開発すること。
• 現代のXAI技術を、科学的説明、帰納的推論、認知的評価の分野における基礎的研究と結びつけること。
• ユーザー満足度、メンタルモデルの正確さ、是正可能性といった指標を含み、測定可能で評価可能かつ再現可能な基準に基づいてXAIシステムを評価する基盤を確立すること。

提案手法

• 説明の質を5段階（レベル0からレベル4）に分類するフレームワークを提案し、各段階が説明の複雑さとユーザー中心性の向上を示す。
• 図1の視覚的スケールと表1の表形式表現を用い、説明の各要素（明示的表現、代替説明、説明対象者の知識、対話性）を5段階にわたってマッピングする。
• 哲学における科学的説明の歴史的基盤を統合し、現代のXAIを長年の科学的伝統に根ざしたものとする。
• XAIの主要な構成要素として、解釈可能性、説明の質、評価、システムデバッグ、表現力、意味論、推論、抽象化、予測を定義する。
• 説明の有効性を評価するための指標群を提案：ユーザー満足度、メンタルモデルの強度、タスクパフォーマンス、信頼度評価、是正可能性。
• 対照的説明の評価を推奨し、対比（比較による正当化）、選択（特徴の顕著性）、社会的説明（ユーザーへの明瞭さと有用性）の各指標を用いる。

実験結果

リサーチクエスチョン

• RQ1 説明の質を、明確でスケーラブルな段階に体系的に整理する方法は何か？
• RQ2 現代のXAI概念（説明、因果性、解釈可能性）の背後にある歴史的・科学的基盤は何か？
• RQ3 予測精度を超えて、認知的およびユーザー中心の指標を組み込むことで、XAIシステムをどのように評価できるか？
• RQ4 原理的で拡張可能かつ評価可能なXAIアーキテクチャを構築するために必要な構成要素は何か？
• RQ5 対照的かつ社会的に関連のある説明は、実際の現場でどのように測定・検証できるか？

主な発見

• 提案された5段階のフレームワークにより、説明の洗練度が段階的に分類可能であり、基本的明示的表現（レベル0）から対話的で説明対象者特化型の因果的説明（レベル4）までをカバーする。
• 現時点では、レベル4の完全な能力を有するXAIシステムは存在せず、特に対比、選択、社会的説明の指標を含む包括的で多面的な評価を支援する点で未達成である。
• 説明の評価には5つの次元を含めるべきである：ユーザー満足度、メンタルモデルの正確さ、タスクパフォーマンスの向上、信頼度評価、是正可能性。これらすべてが測定可能かつ評価可能であるべきである。
• 対照的説明の有効性は、比較による正当化（対比）、特徴の顕著性（選択）、ユーザーへの有用性（社会的説明）を測定する指標によって数量化できる。
• このフレームワークは、現代のXAIを科学的説明と因果性の基礎的研究、特に帰納的推論と因果モデル化と効果的に結びつけることに成功している。
• 関心が高まっているにもかかわらず、現在のXAI研究は、歴史的科学的理解を尊重しつつ、説明の説得的で再現可能な評価を可能にする統一的で原理的なフレームワークを欠いている。