[論文レビュー] Looking deeper into interpretable deep learning in neuroimaging: a comprehensive survey

Md Mahfuzur Rahman, Vince D. Calhoun+1 more|arXiv (Cornell University)|Jul 14, 2023

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

この包括的なサーベイは、神経画像診断における解釈可能なディープラーニングを検討し、現在の手法、課題、応用を統合することで、モデルの予測に関連する脳の構造と機能を明らかにする。後処理による説明手法の評価、解釈可能性の検証における限界の特定、より透明なディープラーニングモデルを通じた脳疾患の科学的理解を進めるための実務的ガイダンスを提供する。

ABSTRACT

Deep learning (DL) models have been popular due to their ability to learn directly from the raw data in an end-to-end paradigm, alleviating the concern of a separate error-prone feature extraction phase. Recent DL-based neuroimaging studies have also witnessed a noticeable performance advancement over traditional machine learning algorithms. But the challenges of deep learning models still exist because of the lack of transparency in these models for their successful deployment in real-world applications. In recent years, Explainable AI (XAI) has undergone a surge of developments mainly to get intuitions of how the models reached the decisions, which is essential for safety-critical domains such as healthcare, finance, and law enforcement agencies. While the interpretability domain is advancing noticeably, researchers are still unclear about what aspect of model learning a post hoc method reveals and how to validate its reliability. This paper comprehensively reviews interpretable deep learning models in the neuroimaging domain. Firstly, we summarize the current status of interpretability resources in general, focusing on the progression of methods, associated challenges, and opinions. Secondly, we discuss how multiple recent neuroimaging studies leveraged model interpretability to capture anatomical and functional brain alterations most relevant to model predictions. Finally, we discuss the limitations of the current practices and offer some valuable insights and guidance on how we can steer our future research directions to make deep learning models substantially interpretable and thus advance scientific understanding of brain disorders.

研究の動機と目的

• 神経画像診断における解釈可能なディープラーニング手法の体系的レビューを提供すること。特に、モデルの透明性と科学的解釈可能性に焦点を当てる。
• 最近の神経画像診断研究が、予測に関連する解釈可能性をどのように活用して、解剖学的および機能的脳の変化を同定しているかを分析すること。
• 現在の解釈可能性の実践における根本的な限界を特定し、後処理による説明手法の信頼性を検証すること。
• 脳疾患の理解を向上させるために、解釈可能なディープラーニングを前進させる根拠に基づいた推奨事項を提示すること。
• 技術的解釈可能性と医療分野における臨床的・科学的有用性のギャップを埋めること。

提案手法

• 解釈可能なディープラーニングにおける神経画像診断の分野について、109ページにわたる文献の体系的レビューを実施。特に、手法の進化と課題に焦点を当てる。
• 神経画像診断研究で用いられる解釈可能性技術を、後処理型、本質的に解釈可能な型、ハイブリッド型に分類すること。
• 勾配マップ、注目メカニズム、レイヤーごとの重要度再配分の応用を、脳画像データ（例：fMRI、MRI）に対して分析すること。
• 解釈可能性手法の検証フレームワークの評価。人間を含むフィードバック評価と統計的整合性のチェックを含む。
• 最近の神経画像診断研究からの事例研究の統合により、解釈可能性が生物学的に妥当な脳パターンを明らかにする方法を示すこと。
• 研究間で解釈可能性の報告方法に見られる、方法論的ギャップと一貫性の欠如を特定すること。

実験結果

リサーチクエスチョン

• RQ1 神経画像診断における異なる解釈可能なディープラーニング手法は、モデルの予測に関連する脳の構造と機能をどのように明らかにするか？
• RQ2 神経画像診断において、後処理による説明手法の信頼性と一貫性を検証するにあたり、主な課題は何か？
• RQ3 現在の解釈可能性手法は、脳疾患研究における科学的発見をどの程度支援しているか？
• RQ4 臨床的および研究現場での透明性と再現可能性を確保するため、解釈可能性手法はどのように改善できるか？
• RQ5 神経画像診断応用のディープラーニングパイプラインに解釈可能性を統合するための最も効果的な戦略は何か？

主な発見

• Grad-CAM や LRP などの後処理説明手法は、モデルの予測に関連する脳領域を効果的に強調しており、多くの場合、既知の神経解剖学と一致する。
• 広く使用されているにもかかわらず、多くの解釈可能性手法には標準化された検証がなく、勾配マップの誤解釈が生じる可能性がある。
• 解釈可能なディープラーニングモデルは、統合失調症やアルツハイマー病などの疾患に関連する機能的および構造的脳の変化を同定するのに寄与している。
• 神経画像診断研究において、解釈可能性指標や検証手順の報告に顕著なギャップが存在し、再現性と信頼性が低下している。
• 注目メカニズムを備えたアーキテクチャなど、本質的に解釈可能なモデルは、性能を維持しつつモデルの透明性を向上させる可能性を示している。
• 本サーベイでは、神経画像診断における解釈可能性の信頼性を標準化・向上させるために、統一されたベンチマークと評価プロトコルの必要性を明らかにした。