[論文レビュー] Explainable Artificial Intelligence (XAI) 2.0: A Manifesto of Open Challenges and Interdisciplinary Research Directions

Luca Longo, Mario Brčić+17 more|arXiv (Cornell University)|Oct 30, 2023

Artificial Intelligence in Healthcare and Education参考文献 240被引用数 14

ひとこと要約

9つのカテゴリにわたる27のオープンXAI課題をまとめた共同宣言で、説明可能なAIの進展と実世界展開を推進する学際的な方向性を提案します。

ABSTRACT

As systems based on opaque Artificial Intelligence (AI) continue to flourish in diverse real-world applications, understanding these black box models has become paramount. In response, Explainable AI (XAI) has emerged as a field of research with practical and ethical benefits across various domains. This paper not only highlights the advancements in XAI and its application in real-world scenarios but also addresses the ongoing challenges within XAI, emphasizing the need for broader perspectives and collaborative efforts. We bring together experts from diverse fields to identify open problems, striving to synchronize research agendas and accelerate XAI in practical applications. By fostering collaborative discussion and interdisciplinary cooperation, we aim to propel XAI forward, contributing to its continued success. Our goal is to put forward a comprehensive proposal for advancing XAI. To achieve this goal, we present a manifesto of 27 open problems categorized into nine categories. These challenges encapsulate the complexities and nuances of XAI and offer a road map for future research. For each problem, we provide promising research directions in the hope of harnessing the collective intelligence of interested stakeholders.

研究の動機と目的

• XAIにおけるオープンな問題を特定するために、多様な専門家の視点を統合する。
• XAI 2.0を進めるための調整された学際横断的研究アジェンダを提案する。
• 説明可能性の実用的な適用と現実世界での関連性を強調する。
• 研究を分野と関係者間で同期させる方向性を提供する。

提案手法

• 哲学、心理学、HCI、コンピュータサイエンスの専門家の意見を統合してオープンな問題を抽出する。
• 9つのカテゴリに分け、27の具体的な課題を含むように問題を整理する。
• 各課題について提案された研究の方向性と潜在的な解決アプローチを提供する。

Figure 1: A manifesto for eXplainable Artificial Intelligence (XAI): High-level challenges

実験結果

リサーチクエスチョン

• RQ1 学際的なパネルが特定したXAIの主要なオープン問題は何か。
• RQ2 現実世界での採用を加速させるために、XAI研究を学際的に同期させるにはどうすればよいか。
• RQ3 生成型、概念ベースの学習、堅牢な説明のためにXAI 2.0を進めるにはどの方向性とアプローチが提案されているか。

主な発見

• 9つのカテゴリのマニフェストとして構成されたXAI 2.0の27のオープン問題の特定。
• 新しいAIタイプ（生成モデル、概念ベースの学習）を説明する課題と現在のXAI手法の改善の重要性に焦点を当てる。
• XAIの説明における評価、堅牢性、人間中心の評価ギャップの議論。
• 医学、金融、環境、教育を含む適用分野の例示を通じて、学際的な取り組みを促進する。