[論文レビュー] Assessing the (Un)Trustworthiness of Saliency Maps for Localizing Abnormalities in Medical Imaging

Nishanth Arun, Nathan Gaw+11 more|arXiv (Cornell University)|Aug 6, 2020

Explainable Artificial Intelligence (XAI)参考文献 5被引用数 19

ひとこと要約

本稿では、局所化の有用性、重みのランダム化に対する感受性、再現性、再現可能性の4つの基準を用いて、8種類のサリエンシーマップ手法の、医療画像における異常部位の局所化における信頼性を評価している。2つの公開ラジオロジー・データセットを用いて、すべての手法が少なくとも1つの基準を満たさず、しばしば単純なベースラインよりも信頼性が低いことが判明した。これは、臨床応用にあたっては注意が必要であり、局所化が主な目的である場合には、検出・セグメンテーションモデルの使用を推奨するものである。

ABSTRACT

Saliency maps have become a widely used method to make deep learning models more interpretable by providing post-hoc explanations of classifiers through identification of the most pertinent areas of the input medical image. They are increasingly being used in medical imaging to provide clinically plausible explanations for the decisions the neural network makes. However, the utility and robustness of these visualization maps has not yet been rigorously examined in the context of medical imaging. We posit that trustworthiness in this context requires 1) localization utility, 2) sensitivity to model weight randomization, 3) repeatability, and 4) reproducibility. Using the localization information available in two large public radiology datasets, we quantify the performance of eight commonly used saliency map approaches for the above criteria using area under the precision-recall curves (AUPRC) and structural similarity index (SSIM), comparing their performance to various baseline measures. Using our framework to quantify the trustworthiness of saliency maps, we show that all eight saliency map techniques fail at least one of the criteria and are, in most cases, less trustworthy when compared to the baselines. We suggest that their usage in the high-risk domain of medical imaging warrants additional scrutiny and recommend that detection or segmentation models be used if localization is the desired output of the network. Additionally, to promote reproducibility of our findings, we provide the code we used for all tests performed in this work at this link: https://github.com/QTIM-Lab/Assessing-Saliency-Maps.

研究の動機と目的

• 医療画像におけるサリエンシーマップの信頼性と信頼性を、臨床意思決定支援の文脈で評価すること。
• 一般的に用いられるサリエンシーマップ手法が、ラジオロジー画像における異常部位を信頼性を持って局所化できるかを特定すること。
• 局所化の有用性、モデル重みのランダム化に対する感受性、再現性、再現性の4つの基準に基づいてサリエンシーマップを評価すること。
• サリエンシーマップ手法をベースライン手法と比較し、局所化において有意義な改善をもたらしているかを検証すること。
• 局所化が主な目的である場合には、サリエンシーマップではなく検出またはセグメンテーションモデルの使用を提唱すること。

提案手法

• 本研究では、評価のための正解局所化アノテーションを備えた2つの大規模な公開ラジオロジー・データセットを用いている。
• Grad-CAM、Grad-CAM++、Score-CAM、Integrated Gradientsを含む、広く使われている8つのサリエンシーマップ技術が評価対象である。
• 正解との整合性を測るために、受信者操作特性曲線下積分（AUPRC）と構造的類似性指数（SSIM）を用いて性能を定量化している。
• モデル重みのランダム化に対する感受性をテストすることで、手法のロバストネスを評価している。
• 同一入力に対して複数回の順方向伝搬を実行し、サリエンシーマップの一貫性を測定することで再現性を評価している。
• 評価フレームワークで使用したすべてのコードを公開することで、再現性を確保している。

実験結果

リサーチクエスチョン

• RQ1 サリエンシーマップは、正解と比較して、医療画像における異常部位を信頼性高く局所化できるか？
• RQ2 モデル重みのランダム化に対してサリエンシーマップ手法はどのように性能を示すか。これはロバストネスを示唆する。
• RQ3 同一入力に対して複数回の推論を実行した際、サリエンシーマップはどの程度再現性を示すか？
• RQ4 局所化精度の観点から、サリエンシーマップ手法は単純なベースライン手法と比べてどのように異なるか？
• RQ5 医療画像の文脈において、サリエンシーマップは代替手法よりも信頼性が高いと言えるか？

主な発見

• 8つのサリエンシーマップ手法すべてが、局所化の有用性、重みのランダム化に対する感受性、再現性、再現性の4つの信頼性基準のうち少なくとも1つを満たさなかった。
• サリエンシーマップは局所化の有用性が低く、AUPRCスコアがクラス活性化マップやランダムノイズといったベースライン手法よりも常に低かった。
• サリエンシーマップはモデル重みのランダム化に対してロバストではなく、モデルの挙動を信頼性を持って反映していないことが示された。
• 再現性は各手法で低く、同じ入力に対して複数回の実行で生成されたサリエンシーマップ間に顕著なばらつきが見られた。
• サリエンシーマップと正解との間の構造的類似性指数（SSIM）は一貫して低く、空間的な整合性が乏しかった。
• 著者らは、サリエンシーマップはしばしば単純なベースラインよりも信頼性が低く、局所化タスクにおいては検出またはセグメンテーションモデルの使用を推奨する結論に至っている。