[論文レビュー] Self-eXplainable AI for Medical Image Analysis: A Survey and New Outlooks

Junlin Hou, Shuya Liu+5 more|arXiv (Cornell University)|Oct 3, 2024

Explainable Artificial Intelligence (XAI)被引用数 5

ひとこと要約

医用画像解析における自己説明型AI（S-XAI）の総合的な調査で、3要素からなる分類法（入力・モデル・出力の説明可能性）を提案し、2024年9月時点で200件超の論文をレビューする。

ABSTRACT

The increasing demand for transparent and reliable models, particularly in high-stakes decision-making areas such as medical image analysis, has led to the emergence of eXplainable Artificial Intelligence (XAI). Post-hoc XAI techniques, which aim to explain black-box models after training, have raised concerns about their fidelity to model predictions. In contrast, Self-eXplainable AI (S-XAI) offers a compelling alternative by incorporating explainability directly into the training process of deep learning models. This approach allows models to generate inherent explanations that are closely aligned with their internal decision-making processes, enhancing transparency and supporting the trustworthiness, robustness, and accountability of AI systems in real-world medical applications. To facilitate the development of S-XAI methods for medical image analysis, this survey presents a comprehensive review across various image modalities and clinical applications. It covers more than 200 papers from three key perspectives: 1) input explainability through the integration of explainable feature engineering and knowledge graph, 2) model explainability via attention-based learning, concept-based learning, and prototype-based learning, and 3) output explainability by providing textual and counterfactual explanations. This paper also outlines desired characteristics of explainability and evaluation methods for assessing explanation quality, while discussing major challenges and future research directions in developing S-XAI for medical image analysis.

研究の動機と目的

• 高リスクな医用画像アプリケーションにおける本質的に解釈可能なAIの必要性を喚起する。
• 画像分析パイプライン全体（入力・モデル・出力）にわたるS-XAI手法の体系的分類法を提供する。
• 医用画像におけるS-XAIで用いられるモダリティ、アプリケーション、データセット、評価指標を要約する。
• 研究者と実務家を導くための課題、ギャップ、今後の方向性を強調する。

提案手法

• DNNの構成要素に合わせたS-XAIの三部構成分類を提案する：入力説明可能性、モデル説明可能性、出力説明可能性。
• モダリティと応用分野を横断する2018年～2024年9月時点の会議・ジャーナル論文200件超をレビューする。
• 入力説明可能性アプローチを扱う：説明可能な特徴量設計と知識グラフ（事前知識、データ、ハイブリッド）。
• モデル説明可能性アプローチを扱う：アテンションベースの学習（構造誘導型と損失誘導型）、概念ベースの学習（監視付き、非監視、生成、テキスト概念と視覚概念を含む）。
• 出力説明可能性には反実仮想説明やテキスト説明を含めて議論し、評価基準の概要を示す。

実験結果

リサーチクエスチョン

• RQ1 医用画像分析に適用される自己説明型AIのアプローチは何ですか？
• RQ2 入力・モデル・出力の説明可能性をどのように統合して、医用画像モデルの信頼性と透明性を高められますか？
• RQ3 医用画像におけるS-XAIで最も探求されているモダリティ・アプリケーション・データセットは何で、どのような評価手法が存在しますか？
• RQ4 臨床実践におけるS-XAIの主な課題と今後の方向性は何ですか？

主な発見

• 2018年から2024年にかけてS-XAI研究が増加傾向にあり、医用画像論文は総論文の約半数を占める。
• 入力説明可能性は、説明可能な特徴量設計と知識グラフ（事前知識、データ、ハイブリッド）を活用して領域知識を注入する。
• モデル説明可能性は、内在的説明を生み出すためにアテンションベース、概念ベース、プロトタイプベースの設計に依存する。
• 出力説明可能性には、予測とともにテキスト説明や反実仮想説明を生成することが含まれる。
• 説明可能性の品質の包括的な評価が議論され、忠実性、解釈性、臨床的有用性を主要基準として強調している。
• この調査は主要な課題（例：知識グラフの労力、データの異質性、説明の評価）を特定し、今後の方向性を概説している。