[論文レビュー] Concept-based Explainable Artificial Intelligence: A Survey

Eleonora Poeta, Gabriele Ciravegna+3 more|arXiv (Cornell University)|Dec 20, 2023

Explainable Artificial Intelligence (XAI)被引用数 13

ひとこと要約

本論文は Concept-based XAI (C-XAI) を調査し、概念を定義し、9カテゴリの分類法を提案し、分野のガイドラインと評価戦略を提供する。

ABSTRACT

The field of explainable artificial intelligence emerged in response to the growing need for more transparent and reliable models. However, using raw features to provide explanations has been disputed in several works lately, advocating for more user-understandable explanations. To address this issue, a wide range of papers proposing Concept-based eXplainable Artificial Intelligence (C-XAI) methods have arisen in recent years. Nevertheless, a unified categorization and precise field definition are still missing. This paper fills the gap by offering a thorough review of C-XAI approaches. We define and identify different concepts and explanation types. We provide a taxonomy identifying nine categories and propose guidelines for selecting a suitable category based on the development context. Additionally, we report common evaluation strategies including metrics, human evaluations and dataset employed, aiming to assist the development of future methods. We believe this survey will serve researchers, practitioners, and domain experts in comprehending and advancing this innovative field.

研究の動機と目的

• 概念ベースの説明分野における主要用語を定義し、概念と説明を明確化する。
• 概念の使用、学習、説明に基づいて9つのC-XAIカテゴリーを特定する分類法を提示する。
• 開発上の制約に基づいて適切なC-XAI手法を選択するためのガイドラインを提供する。
• 体系的な比較と評価を可能にするため、13次元にわたり手法を分析する。
• 今後のC-XAI研究を支援するために、利用可能な評価指標、データセット、評価実践を報告する。

提案手法

• 概念タイプを定義し分類する（Symbolic、Unsupervised Basis、Prototype、Textual）。
• 概念ベースの説明を区別する（Class-Concept Relation、Node-Concept Association、Concept Visualization）。
• 事後的概念ベースの説明とExplainable-by-Designの概念ベースモデルを区別する。
• 概念、適用性、リソースにわたって手法を特徴づける13次元分析フレームワークを開発する。
• 実務者が適切なC-XAI手法を選択するのを支援するガイドラインフレームワークを提案する。
• 指標、人間の評価、データセットを含む評価戦略を検討・統合する。

実験結果

リサーチクエスチョン

• RQ1 C-XAI における概念と概念ベースの説明の核心定義とは？
• RQ2 C-XAI 手法を包括的な分類にどう整理できるか、また用途への影響は何か？
• RQ3 制約と目標を踏まえて研究者が適切なC-XAI手法を選択するためのガイドライン？
• RQ4 C-XAI手法を評価するために使用される評価戦略、指標、データセットは？
• RQ5 概念ベースの説明可能性の現状の適用と今後の方向性は？

主な発見

• 概念ベースのXAI（C-XAI）の最初の体系的レビューを導入する。
• 4つの概念タイプと3つの説明タイプを定義し、形式化された語彙に寄与する。
• 9カテゴリの分類法と手法選択の実践的ガイドラインを提供する。
• 手法を13次元に沿って分析し、構造化された比較を可能にする。
• C-XAI開発の評価指標、データセット、および人間の評価実践を論じる。
• 初期の適用と今後の研究の有望な方向性を強調する。