[論文レビュー] Explainable AI (XAI): A Systematic Meta-Survey of Current Challenges and Future Opportunities

Waddah Saeed, Christian W. Omlin|arXiv (Cornell University)|Nov 11, 2021

Explainable Artificial Intelligence (XAI)被引用数 12

ひとこと要約

本研究は、58件のXAI研究を体系的に要約し、説明可能AI分野における39の主要な課題と今後の研究方向性を特定・整理した。説明可能性と解釈可能性の違いを明確にし、機械学習ライフサイクル（設計、開発、導入）の各段階にわたり知見を分類することで、重要な分野における透明性・信頼性・採用可能性に優れたAIシステムの発展を支援する包括的なロードマップを提供する。

ABSTRACT

The past decade has seen significant progress in artificial intelligence (AI), which has resulted in algorithms being adopted for resolving a variety of problems. However, this success has been met by increasing model complexity and employing black-box AI models that lack transparency. In response to this need, Explainable AI (XAI) has been proposed to make AI more transparent and thus advance the adoption of AI in critical domains. Although there are several reviews of XAI topics in the literature that identified challenges and potential research directions in XAI, these challenges and research directions are scattered. This study, hence, presents a systematic meta-survey for challenges and future research directions in XAI organized in two themes: (1) general challenges and research directions in XAI and (2) challenges and research directions in XAI based on machine learning life cycle's phases: design, development, and deployment. We believe that our meta-survey contributes to XAI literature by providing a guide for future exploration in the XAI area.

研究の動機と目的

• 既存のレビューに散在するXAIの課題と研究方向性の断片的な状況を是正すること。
• 文献においてしばしば混同されるが、XAIにおける説明可能性と解釈可能性の明確な区別を図ること。
• 機械学習ライフサイクルの各段階（設計、開発、導入）にわたるXAIの課題と今後の研究方向性を、2つのテーマ的軸（一般XAI課題、ライフサイクル段階別課題）に基づいて体系的に整理・統合すること。
• 透明性・信頼性に優れたAIシステムの発展を目指す研究者・実務家向けの構造的かつ根拠に基づいた参考資料を提供すること。
• 推薦システム、IoT、5Gなど新たな応用分野におけるXAIの新たな機会、特にXAI-as-a-service、文脈に応じた説明、記号的推論および自然言語生成との統合を浮き彫りにすること。

提案手法

• 事前に定義されたキーワードおよび包含／除外プロトコルに従い、58件の査読済みXAI論文を対象とした体系的文献レビューを実施した。
• 課題と研究方向性を2つの主要テーマに分類した：(1) 一般XAI課題、(2) 機械学習ライフサイクルの各段階（設計、開発、導入）に特有の課題。
• テーマ分析を用いて、選定された研究から繰り返し現れるテーマや横断的課題を特定し、知見を統合した。
• 「説明可能性」（モデル意思決定を説明できる能力）と「解釈可能性」（モデル自体の本質的な理解可能性）の違いを明確にし、用語の一貫性を確保した。
• 説明モダリティ（例：テキスト、視覚的、インタラクティブ）および配信方法（例：リアルタイム、アーカイブ）が、ユーザーの信頼およびシステムの透明性に与える影響を評価した。
• 特定されたギャップに基づき、将来の研究方向性を提案した。具体的には、自動化XAI（XAI-as-a-service）、AutoMLとの統合、文脈に応じた説明配信の実現が含まれる。

実験結果

リサーチクエスチョン

• RQ1 現代のAIシステムの文脈において、説明可能性と解釈可能性をどのように意味的に区別できるか？
• RQ2 モデル設計から導入までをカバーする機械学習ライフサイクル全体にわたって、最も重要なXAIの課題は何か？
• RQ3 特に推薦システム、IoT、5Gなどの新興分野を含め、XAIにおける主な研究ギャップと今後の機会は何か？
• RQ4 説明のモダリティ、タイミング、文脈をどのように最適化すれば、ユーザーの信頼とシステムの説明責任を高められるか？
• RQ5 自動化XAI（XAI-as-a-service）は、多様なMLパイプラインやAutoMLシステムにわたり、説明可能性をどのようにスケーリングできるか？

主な発見

• 本研究では、一般的およびライフサイクル特有の文脈において、テーマクラスタに分類された39の明確に区別された課題と今後の研究方向性を同定した。
• 規制的、科学的、産業的、ユーザー中心の視点が、医療や金融などハイリスク分野におけるXAIの必要性を強く支持している。
• 説明は文脈に応じて動的に提供され、長期的な追跡可能性を確保するための保存が不可欠であり、説明責任とユーザー信頼を支える。
• 自然言語ベースの説明および対話型AIによる即時の「なぜ？」への応答が、ますます求められている。
• XAI-as-a-serviceおよびAutoMLツール（例：H2O、MLJAR）との統合は、多様なモデルにわたり説明生成を自動化する新たなトレンドである。
• XAIシステムの評価はまだ未発達であり、ユーザーおよびアルゴリズム的視点から、標準的かつ信頼性の高いメトリクスの開発が急務である。