[論文レビュー] Gifsplanation via Latent Shift: A Simple Autoencoder Approach to Progressive Exaggeration on Chest X-rays.

Joseph Cohen, Rupert Brooks+5 more|arXiv (Cornell University)|Feb 18, 2021

Radiomics and Machine Learning in Medical Imaging被引用数 3

ひとこと要約

本稿では、胸部レントゲン画像の潜在表現を段階的に誇張または抑制することで、分類器の予測に影響を与える特徴を操作する、シンプルなオートエンコーダーに基づく手法「Latent Shift」を提案する。放射線科医による読取研究において、Latent Shiftは真陽性予測におけるユーザーの信頼度を向上させた（5段階スケールで0.15±0.95、p=0.01）、偽陽性の増加は最小限に抑えられた（0.04±1.06、p=0.57）。従来のアトリビューションマップを上回る性能を示した。

ABSTRACT

Motivation: Traditional image attribution methods struggle to satisfactorily explain predictions of neural networks. Prediction explanation is important, especially in the medical imaging, for avoiding the unintended consequences of deploying AI systems when false positive predictions can impact patient care. Thus, there is a pressing need to develop improved models for model explainability and introspection. Specific Problem: A new approach is to transform input images to increase or decrease features which cause the prediction. However, current approaches are difficult to implement as they are monolithic or rely on GANs. These hurdles prevent wide adoption. Our approach: Given an arbitrary classifier, we propose a simple autoencoder and gradient update (Latent Shift) that can transform the latent representation of an input image to exaggerate or curtail the features used for prediction. We use this method to study chest X-ray classifiers and evaluate their performance. We conduct a reader study with two radiologists assessing 240 chest X-ray predictions to identify which ones are false positives (half are) using traditional attribution maps or our proposed method. Results: We found low overlap with ground truth pathology masks for models with reasonably high accuracy. However, the results from our reader study indicate that these models are generally looking at the correct features. We also found that the Latent Shift explanation allows a user to have more confidence in true positive predictions compared to traditional approaches (0.15$\pm$0.95 in a 5 point scale with p=0.01) with only a small increase in false positive predictions (0.04$\pm$1.06 with p=0.57). Accompanying webpage: this https URL Source code: this https URL

研究の動機と目的

• 医療画像分野における効果的で使いやすいモデル解釈手法の不足、特に患者ケアに影響を及える可能性のある偽陽性予測の解釈を改善すること。
• 広く臨床AIシステムに採用されにくい単一のアプローチやGANベースのアトリビューション手法の限界を克服すること。
• 潜在表現を変換することで、モデルの予測に影響を与える特徴を誇張または抑制できる、シンプルで汎用性の高い手法を開発すること。
• 提案手法が放射線科医が正しい予測特徴を特定する能力を向上させ、予測に対する信頼度を高めることを評価すること。

提案手法

• トレーニング可能なオートエンコーダーを用いて、入力の胸部レントゲン画像のコンactな潜在表現を学習する。
• 与えられた入力画像の潜在コードを勾配上昇法または勾配下降法により更新し、モデルの予測に関連する特徴を強調または抑制する。
• 再構成損失により、変換後の画像が解剖学的に妥当で、元の分布に近いまま保たれるようにする。
• 事前学習済み分類器に後から適用可能であるため、モデルに依存せず、既存のパイプラインへの統合が容易である。
• 予測勾配の方向に潜在コードを段階的にシフトすることで、段階的誇張を実現する。
• 得られた画像を視覚的説明として用い、ユーザーがモデルがどの特徴に依存しているかを解釈するのを支援する。

実験結果

リサーチクエスチョン

• RQ1 従来のアトリビューションマップと比較して、Latent Shiftのようなシンプルなオートエンコーダーに基づく手法が、胸部レントゲン画像分類器の解釈性を向上させられるか。
• RQ2 Latent Shiftは放射線科医が真陽性予測を特定する際の信頼度を高められるか。
• RQ3 関連する解剖学的特徴を強調することで、Latent Shiftは偽陽性予測の誤解をどの程度軽減できるか。
• RQ4 信頼度の向上は、特徴の局所化の改善によるものか、説明の視覚的明瞭性の向上によるものか。
• RQ5 この手法は、解釈プロセスにおける偽陽性予測の発生率にどのような影響を与えるか。

主な発見

• 従来のアトリビューションマップは、ある程度高い精度を示すモデルに対しても、真の病変マスクとの重複率が低かった。
• 真の病変マスクとの重複率が低くても、Latent Shiftを用いた放射線科医は、従来手法よりも正確に予測に寄与する特徴を特定できた。
• Latent Shiftを用いることで、放射線科医は真陽性予測に対する信頼度を有意に高めた（5段階スケールで0.15±0.95、p=0.01）。
• この手法による偽陽性予測の増加はわずかで、有意差もなかった（0.04±1.06、p=0.57）、ユーザーを誤解させるリスクは最小限に抑えられた。
• アーキテクチャの変更や複雑な学習を必要とせず、深層学習モデルの胸部レントゲン画像解析における解釈性が向上した。
• この手法は汎用的であり、任意の事前学習済み分類器に適用可能で、医療AIシステムへの広範な採用が可能である。