[論文レビュー] Achievements and Challenges in Explaining Deep Learning based Computer-Aided Diagnosis Systems

Adriano Lucieri, Muhammad Naseer Bajwa+2 more|arXiv (Cornell University)|Nov 26, 2020

Explainable Artificial Intelligence (XAI)参考文献 108被引用数 7

ひとこと要約

この論文は、医療画像における深層学習ベースの画像支援診断（CAD）システムにおける最先端の説明可能なAI（xAI）手法をレビューし、透明性と臨床的信頼性を高めるために視覚的・テキスト的・ハイブリッドな説明に焦点を当てる。バイオマーカーの同定やモデルの是正における主な成果を明らかにするとともに、標準化、評価、データバイアスの課題を指摘し、臨床現場への実用的導入を可能にするために、臨床医とAI開発者の密な連携を提唱する。

ABSTRACT

Remarkable success of modern image-based AI methods and the resulting interest in their applications in critical decision-making processes has led to a surge in efforts to make such intelligent systems transparent and explainable. The need for explainable AI does not stem only from ethical and moral grounds but also from stricter legislation around the world mandating clear and justifiable explanations of any decision taken or assisted by AI. Especially in the medical context where Computer-Aided Diagnosis can have a direct influence on the treatment and well-being of patients, transparency is of utmost importance for safe transition from lab research to real world clinical practice. This paper provides a comprehensive overview of current state-of-the-art in explaining and interpreting Deep Learning based algorithms in applications of medical research and diagnosis of diseases. We discuss early achievements in development of explainable AI for validation of known disease criteria, exploration of new potential biomarkers, as well as methods for the subsequent correction of AI models. Various explanation methods like visual, textual, post-hoc, ante-hoc, local and global have been thoroughly and critically analyzed. Subsequently, we also highlight some of the remaining challenges that stand in the way of practical applications of AI as a clinical decision support tool and provide recommendations for the direction of future research.

研究の動機と目的

• 医療分野における深層学習ベースの画像支援診断（CAD）システムの説明可能性に関する現在の成果と残された課題を分析すること。
• 説明可能なAI（xAI）が、医療意思決定における透明性、信頼性、およびAIの臨床的受容をどのように向上させるかを評価すること。
• 実用的導入を阻害する評価基準、データ品質、人間-AI連携のギャップを特定すること。
• データ駆動型の正確さと知識駆動型の解釈可能性を統合した人間中心のxAIフレームワークを提唱すること。
• xAI手法の忠実性、包括性、規制適合性を確保するための標準的で客観的な評価手順の促進

提案手法

• 医療画像解析における事後的・事前的、局所的・グローバルな説明手法についての体系的レビューと批判的分析。
• 解釈可能性と臨床的関連性を評価するための視覚的（例：類似度マップ）、テキスト的、マルチモーダルな説明の検証。
• 既知の疾患基準の妥当性確認、新しいバイオマーカーの同定、モデル行動の是正に向けたxAI技術の評価。
• 臨床医が最終意思決定権を保持する一方でAIが解釈可能な支援を提供する「人間を含むループ（HITL）」設計の強調。
• データ駆動型の深層学習と知識駆動型モデルを統合したハイブリッドアプローチの提案。
• 質的および定量的指標を含む、標準的で客観的なxAI手法の評価プロトコルの必要性の提言。

実験結果

リサーチクエスチョン

• RQ1 現在の深層学習ベースのCADシステムにおける説明手法は、臨床的意思決定と信頼性をどのように支援しているか？
• RQ2 実際の臨床現場へのxAIの導入を妨げる主な技術的および組織的課題は何か？
• RQ3 xAI手法は、医療画像における既知の疾患基準の妥当性確認や新しいバイオマーカーの同定に、どの程度貢献できるか？
• RQ4 xAI説明の標準的評価フレームワークは、信頼性と規制承認性をどのように向上させるか？
• RQ5 医療専門家とAI開発者の連携は、効果的で信頼性のあるCADシステムを構築するために果たす役割は何か？

主な発見

• 類似度マップや注目可視化を含む現在のxAI手法は、医療画像における深層学習の意思決定を解釈可能かつ臨床的に関連性のあるものにすることが期待できる。
• 説明可能なAIが特徴の寄与度分析や注目度分析を通じて、新しい診断バイオマーカーの同定を支援する証拠が蓄積されつつある。
• 技術的進歩にもかかわらず、xAI手法に対する標準化された評価手順は存在せず、主観的かつ一貫性のない品質評価が生じている。
• データバイアスや訓練データにおける因果的文脈の欠如が、相関関係を因果関係と誤認する場合に説明の信頼性を制限する。
• 説明が意味的で、包括的で、異なるユーザーのニーズ（例：医師、患者、規制当局）に適合していることを保証するため、臨床医とAI開発者の密な連携が不可欠である。
• データ駆動型の深層学習と知識駆動型モデルを統合することが、臨床AIシステムにおける高い正確性と解釈可能性を両立させる鍵となる道筋であると特定された。