[論文レビュー] Visualizing Uncertainty and Saliency Maps of Deep Convolutional Neural Networks for Medical Imaging Applications

Jae Duk Seo|arXiv (Cornell University)|Jul 5, 2019

Explainable Artificial Intelligence (XAI)参考文献 8被引用数 4

ひとこと要約

本論文は、モンテカルロドロップアウトと勾配ベースの帰属度手法を用いて、医学画像におけるモデルの不確実性（エピステミックおよびアレアトリック）とサリエンシーマップを同時に可視化する統合型ディープラーニングパイプラインを提案する。赤内膜血管分離と胸部X線画像分類において、不確実性と分離品質の相関関係が示され、サリエンシーマップが診断的に関連する領域を強調している。

ABSTRACT

Deep learning models are now used in many different industries, while in certain domains safety is not a critical issue in the medical field it is a huge concern. Not only, we want the models to generalize well but we also want to know the models confidence respect to its decision and which features matter the most. Our team aims to develop a full pipeline in which not only displays the uncertainty of the models decision but also, the saliency map to show which sets of pixels of the input image contribute most to the predictions.

研究の動機と目的

• 医療画像で使用されるディープラーニングモデルにおける解釈可能性と信頼性の向上に向けた重要なニーズに対処すること。
• 診断意思決定におけるモデルの不確実性とサリエンシーマップを同時に出力する統合パイプラインの開発。
• 臨床医がモデルが臨床的に関連する画像領域に注目しているかどうかを検証し、予測の信頼性を理解できるようにすること。
• 標準的な正確性指標を超えた透明で説明可能なAI出力を提供することで、臨床現場への導入を支援すること。
• 病院のデータサイエンスチームが実装可能な、実用的でデプロイ可能なチュートリアルベースのフレームワークを構築すること。

提案手法

• エピステミック（モデル）およびアレアトリック（データ）不確実性を推定するために、モンテカルロドロップアウトを活用する。
• 勾配ベースのサリエンシーマップ手法（統合勾配など）を用い、予測に最も影響を与える入力画素を特定する。
• Staal et al. データセットを用いて、Dice損失を用いた9層のU-Netを赤内膜血管分離用に訓練する。
• Wang et al. データセットの胸部X線画像を用いて、事前学習済みのVGG-16を上層部の微調整により分類タスクに適応させる。
• 薄い出力が低い信頼性を示すため、確率的セグメンテーションマップを通じて不確実性を可視化する。
• 複数の勾配法にわたる一貫性のあるサリエンシーマップを用い、入力画像内の注目領域の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 不確実性推定とサリエンシーマップの併用は、医療画像解析における解釈性の向上に寄与するか？
• RQ2 不確実性マップは、赤内膜血管分離におけるセグメンテーション品質とモデルの信頼性と相関するか？
• RQ3 胸部X線画像分類において、複数の勾配ベースの帰属度手法が一貫して診断的に関連する領域を強調するか？
• RQ4 臨床的信頼性を高める透明性を提供する統合パイプラインを設計できるか？
• RQ5 このようなシステムを、データプライバシー制約がある実際の病院環境に展開可能か？

主な発見

• U-Netは、赤内膜血管分離において検証損失0.26を達成しており、優れた一般化性能を示している。
• モンテカルロドロップアウトを用いた不確実性推定により、信頼性が低いとされる薄いまたは断片的なセグメンテーションマップに明確な不確実性が可視化された。
• 複数の勾配法（滑らか化を施したバージョンを含む）によるサリエンシーマップは、胸部X線画像の左下領域が分類に重要であることを一貫して強調した。
• 不確実性とサリエンシーマップの統合的可視化により、正確性指標だけでは得られない、モデル行動の包括的把握が可能となった。
• 病院のデータサイエンスチームが実装可能なチュートリアルベースの実装戦略を通じて、実用的かつデプロイ可能な展開が可能である。
• 今後の課題として、不確実性出力を併せ持つ、顕微鏡画像におけるセグメンテーションと細胞数の二重タスク学習の実装を検討する。