[論文レビュー] Visual Interpretable and Explainable Deep Learning Models for Brain Tumor MRI and COVID-19 Chest X-ray Images

Yusuf Brima, Marcellin Atemkeng|arXiv (Cornell University)|Aug 1, 2022

Machine Learning in Healthcare被引用数 5

ひとこと要約

本稿では、脳腫瘍MRIおよびCOVID-19胸部X線画像分類における深層学習モデルの解釈のため、適応的パスベース統合勾配を提案する。視覚的属性マップを生成することで、予測に関連する顕著な画像領域を特定し、潜在的なバイオマーカーを同定するとともに、モデルバイアスを露呈する。ベースライン手法と比較して解釈性が向上しており、特にXRAIとBlur IGを組み合わせることで、専門家によるセグメンテーションと35%の一致を達成した。

ABSTRACT

Deep learning shows promise for medical image analysis but lacks interpretability, hindering adoption in healthcare. Attribution techniques that explain model reasoning may increase trust in deep learning among clinical stakeholders. This paper aimed to evaluate attribution methods for illuminating how deep neural networks analyze medical images. Using adaptive path-based gradient integration, we attributed predictions from brain tumor MRI and COVID-19 chest X-ray datasets made by recent deep convolutional neural network models. The technique highlighted possible biomarkers, exposed model biases, and offered insights into the links between input and prediction. Our analysis demonstrates the method's ability to elucidate model reasoning on these datasets. The resulting attributions show promise for improving deep learning transparency for domain experts by revealing the rationale behind predictions. This study advances model interpretability to increase trust in deep learning among healthcare stakeholders.

研究の動機と目的

• 深層学習モデルを用いた医療画像解析における解釈性を向上させるための属性割り当て手法を評価すること。
• モデルの予測に寄与する脳腫瘍MRIおよびCOVID-19胸部X線画像内の顕著な特徴を同定すること。
• 視覚的説明技術を用いてモデルバイアスを検出し、潜在的なバイオマーカーを明らかにすること。
• 人間が関与する検証を可能にすることで、AI支援診断における信頼性と透明性を高めること。
• モデル意思決定の視覚的で解釈可能な説明を提供することで、深層学習の臨床的導入を支援すること。

提案手法

• 深層畳み込みニューラルネットワークの複数の層にわたり、特徴の属性割り当てを計算するために、適応的パスベース統合勾配を採用した。
• 属性割り当て計算における情報の中立性を保証するため、ゼロピixeLを基準入力として使用した。
• より優れた顕著マップ生成のため、XRAI（XAIベースの関連性割り当て）およびブラー統合勾配（Blur IG）を適用した。
• 複数の属性割り当て手法（XRAIおよびBlur IG）を組み合わせることで、専門家がアノテートした領域との整合性を高め、耐性を向上させた。
• 専門家が検証済みのセグメンテーションと比較して属性割り当てマップを評価し、解釈性および正確性を定量化した。
• 多様なアーキテクチャを対象にモデルの挙動を分析し、誘導的バイアスが顕著マップのパターンに与える影響を評価した。

実験結果

リサーチクエスチョン

• RQ1 異なる属性割り当て手法は、脳腫瘍MRIおよびCOVID-19X線画像の関連領域をどのように強調するか？
• RQ2 属性割り当てマップは、医療画像における専門家がアノテートした関心領域とどの程度一致するか？
• RQ3 畳み込みニューラルネットワークにおけるアーキテクチャ的プリオン（誘導的バイアス）は、顕著マップの選択性および品質にどのように影響するか？
• RQ4 複数の属性割り当て手法を組み合わせることで、モデルの説明の信頼性および解釈性は向上するか？
• RQ5 属性割り当て手法は、医療画像におけるモデルバイアスおよび潜在的バイオマーカーを明らかにする上で、どのような役割を果たすか？

主な発見

• XRAIとBlur IGの組み合わせにより、専門家がアノテートしたセグメンテーションと35%の重複が得られ、臨床的に関連する領域と強い一致を示した。
• XRAIは、バニラ勾配およびガイド付き統合勾配よりも高い解釈性を示し、特に関心領域の特徴を特定する点で優れていた。
• 異なる属性割り当て手法は異なるパターンを明らかにしたため、モデルおよびデータの特性に応じた手法選択の重要性が浮き彫りになった。
• より強い誘導的バイアスを有するモデルアーキテクチャは、より選択的な受容 field を示し、顕著マップの品質および解釈性に影響を与えた。
• 属性割り当て手法により、人間の視覚処理とは一致しない、テクスチャ、形状、周波数応答に関するモデルバイアスが露呈された。
• 本研究は、信頼性のある説明可能な顕著マップを生成するには、強固な表現学習と適切な属性割り当て手法が不可欠であることを確認した。