[論文レビュー] Understanding Deep Neural Network Predictions for Medical Imaging Applications

Barath Narayanan Narayanan, Manawaduge Supun De Silva+3 more|arXiv (Cornell University)|Dec 19, 2019

Retinal Imaging and Analysis被引用数 14

ひとこと要約

本論文は、マラリア、糖尿病性網膜症、脳腫瘍、結核の検出に用いられるモデルに対してCAM（クラス活性マッピング）を適用することで、医療画像における深層ニューラルネットワークの意思決定を可視化する解釈可能性フレームワークを提案する。性能指標と視覚的説明を併用することで、データサイエンティストと医師の両方が意思決定を支援できる透明性の高いモデルの信頼性が向上した。

ABSTRACT

Computer-aided detection has been a research area attracting great interest in the past decade. Machine learning algorithms have been utilized extensively for this application as they provide a valuable second opinion to the doctors. Despite several machine learning models being available for medical imaging applications, not many have been implemented in the real-world due to the uninterpretable nature of the decisions made by the network. In this paper, we investigate the results provided by deep neural networks for the detection of malaria, diabetic retinopathy, brain tumor, and tuberculosis in different imaging modalities. We visualize the class activation mappings for all the applications in order to enhance the understanding of these networks. This type of visualization, along with the corresponding network performance metrics, would aid the data science experts in better understanding of their models as well as assisting doctors in their decision-making process.

研究の動機と目的

• 医療画像応用における深層ニューラルネットワークの解釈可能性の欠如に対処すること。
• モデルの予測に影響を与える画像領域を可視化することで、臨床的信頼性を向上させること。
• 説明可能なAI技術を活用して、データサイエンティストと臨床医の間のギャップを埋めること。
• 多様な医療画像タスクにおいて、モデルの性能と視覚的説明を併せて評価すること。
• モデル意思決定の透明化を通じて、医療分野におけるAIの実用的導入を支援すること。

提案手法

• 医療画像分類のための畳み込みニューラルネットワークにおける注目マップを可視化するため、クラス活性マッピング（CAM）の適用。
• マラリア、糖尿病性網膜症、脳腫瘍、結核の4つの医療画像データセットで微調整された事前学習済み深層学習モデルの使用。
• 予測クラスに寄与した入力画像内の領域を強調するためのクラス活性ヒートマップの生成。
• ネットワークの性能指標（例：正解率、AUC）とCAMの可視化を相関させ、モデルの信頼性を検証。
• ヒストパスロジー、網膜眼底写真、MRI、X線を含む、さまざまな画像モodalitiesにおけるモデル行動の評価。
• 視覚的説明を臨床意思決定ワークフローに統合し、医師による解釈を支援すること。

実験結果

リサーチクエスチョン

• RQ1 クラス活性マッピングは、医療画像における深層ニューラルネットワークの解釈性をどのように向上させるか？
• RQ2 マラリアや糖尿病性網膜症の検出において、深層学習モデルはどの画像領域に注目しているか？
• RQ3 CAMの可視化は、臨床的に関連する解剖学的特徴とどの程度一致しているか？
• RQ4 視覚的説明は、医療専門家におけるAIモデルの信頼性と使いやすさを向上させられるか？
• RQ5 モデルの性能は、CAMヒートマップの品質と局在化の精度とどの程度相関しているか？

主な発見

• クラス活性マッピングは、マラリアにおける寄生虫に感染した赤血球や糖尿病性網膜症におけるマイクロ動脈瘤といった病理的に関連する領域を明確に特定した。
• 多様な画像モダリティにわたり、一貫した病変マーカーへの注目が確認され、モデルの透明性が向上した。
• 複数のデータセットでAUC値が0.90を超える高い性能を達成しており、強力な予測能力を示した。
• 臨床的に関連する特徴がCAMによって一貫して局在化され、モデル意思決定の信頼性を裏付けた。
• 性能指標と視覚的説明の組み合わせにより、データサイエンティストによるモデルのデバッグと検証がより効果的になった。
• AI意思決定の透明化により、臨床医と開発者の両方が理解できる仕組みを提供し、実用的導入を支援した。