[論文レビュー] XAI Method Properties: A (Meta-)study.

Gesina Schwalbe, Bettina Finzel|arXiv (Cornell University)|May 15, 2021

Explainable Artificial Intelligence (XAI)参考文献 111被引用数 9

ひとこと要約

本メタスタディは、説明可能AI（XAI）分野で最も引用が多く、最新の分類体系を統合し、サーベイ文献からの用語、概念、評価基準を統一する。50種類以上のXAI手法を高次元の分類体系に分類し、今後の研究および応用を支援する包括的で文脈に応じたフレームワークを提供する。

ABSTRACT

In the meantime, a wide variety of terminologies, motivations, approaches and evaluation criteria have been developed within the scope of research on explainable artificial intelligence (XAI). Many taxonomies can be found in the literature, each with a different focus, but also showing many points of overlap. In this paper, we summarize the most cited and current taxonomies in a meta-analysis in order to highlight the essential aspects of the state-of-the-art in XAI. We also present and add terminologies as well as concepts from a large number of survey articles on the topic. Last but not least, we illustrate concepts from the higher-level taxonomy with more than 50 example methods, which we categorize accordingly, thus providing a wide-ranging overview of aspects of XAI and paving the way for use case-appropriate as well as context-specific subsequent research.

研究の動機と目的

• 説明可能AI（XAI）研究分野で最も影響力があり、最新の分類体系を統合・分析すること。
• 複数のサーベイ論文から得られる多様な用語や概念的枠組みを統一すること。
• 既存のXAI手法を体系的に統合・整理する高次元の分類体系を構築すること。
• 今後のXAI研究および手法選定に役立つ、文脈に適した構造的リファレンスを提供すること。
• 50種類以上の具体的なXAI手法の分類を通じて、分類体系の実用的適用性を提示すること。

提案手法

• XAI文献における最も引用が多く、最新の分類体系をメタアナリシスすること。
• サーベイ論文からコアな用語、動機、評価基準を抽出・統合すること。
• XAI手法の本質的次元を捉える高次元の分類体系を構築すること。
• 手法の特性と設計原理に基づき、50種類以上の具体的なXAI手法を提案された分類体系にマッピングすること。
• テーマ的・構造的分析を用いて、XAIアプローチ間の共通点と相違点を同定すること。
• 代表的手法の体系的分類を通じて、分類体系の整合性と網羅性を検証すること。

実験結果

リサーチクエスチョン

• RQ1 現在のXAI研究における支配的分類フレームワークは何か。また、それらは互いにどのように関連しているか。
• RQ2 XAIサーベイ文献において一貫して用いられるコアな概念と用語は何か。
• RQ3 多様なXAI手法の特性を統合できる統一された高次元の分類体系をどのように構築できるか。
• RQ4 既存のXAI手法が提案された分類体系とどの程度整合しているか。また、残っているギャップは何か。
• RQ5 得られた分類体系は、文脈に応じた、および用途に適したXAI手法の選定をどの程度支援できるか。

主な発見

• 多数のXAI分類体系が存在するが、用語や焦点が異なっても、コアな概念に大きな重複がある。
• 複数の既存フレームワークからの重要な特性を統合した、統一された高次元の分類体系が成功裏に構築された。
• 50種類以上のXAI手法が、提案された分類体系内に体系的に分類され、その実用的適用性が裏付けられた。
• XAI手法設計における繰り返しテーマ（忠実性、適合性、ユーザー中心の説明可能性）が明らかになった。
• メタアナリシスにより、評価基準や用語の使用に一貫性の欠如が明らかとなり、標準化の必要性が示唆された。
• 得られた分類体系は、今後の研究のための構造的基盤を提供し、より的を射た、文脈に配慮したXAI開発を可能にする。