[論文レビュー] Enhancing the Extraction of Interpretable Information for Ischemic Stroke Imaging from Deep Neural Networks

Erico Tjoa, Heng Guo+2 more|arXiv (Cornell University)|Nov 19, 2019

Explainable Artificial Intelligence (XAI)参考文献 17被引用数 9

ひとこと要約

本稿では、3D U-Netを用いた虚血性ストローク病変分類における解釈可能性を向上させるために、修正された階層的関連伝播（LRP）手法を適用している。著者らは、LRPマップにおける信号の振幅が情報含量と相関することを示しており、その修正によりノイズが低減され、臨床的意思決定支援に向けたより信頼性の高い視覚的説明が得られることを明らかにした。

ABSTRACT

We implement a visual interpretability method Layer-wise Relevance Propagation (LRP) on top of 3D U-Net trained to perform lesion segmentation on the small dataset of multi-modal images provided by ISLES 2017 competition. We demonstrate that LRP modifications could provide more sensible visual explanations to an otherwise highly noise-skewed saliency map. We also link amplitude of modified signals to useful information content. High amplitude localized signals appear to constitute the noise that undermines the interpretability capacity of LRP. Furthermore, mathematical framework for possible analysis of function approximation is developed by analogy.

研究の動機と目的

• 虚血性ストローク画像における深層ニューラルネットワークの解釈可能性を向上させること、特に病変分類タスクに焦点を当てること。
• 3D医療画像解析における標準的なLRPが生み出すノイズが多くて信頼性の低いサリエンシーマップの問題に対処すること。
• 信号の振幅を意味のある情報含量に関連付けることで、視覚的説明の信頼性を高める手法を開発すること。
• 解釈可能性の文脈における関数近似分析のための数学的枠組みを構築すること。
• ISLES 2017データセット（小規模でマルチモodalな医療画像ベンチマーク）を用いて手法を検証すること。

提案手法

• 虚血性ストローク病変分類のための3D U-Netモデルに、ISLES 2017データセットで学習済みのものを用いて、階層的関連伝播（LRP）を適用する。
• サリエンシーマップのノイズ低減と視覚的解釈可能性の向上を目的として、標準的なLRPアルゴリズムに修正を加える。
• 関連信号の振幅を分析し、情報含量の高い領域とノイズを特定する。
• 不適切な活性化を抑制する修正されたLRP定式化を採用し、より局所的かつ現実的な説明を実現する。
• 関数近似分析のための数学的類似性を構築し、解釈可能性手法の理論的基盤を強化する。
• ISLES 2017コンペティションの実際の3DマルチモーダルMRI/CT画像を用いて手法を検証する。

実験結果

リサーチクエスチョン

• RQ1 標準的なLRPは、3D虚血性ストローク画像解析において、より信頼性が高く解釈可能なサリエンシーマップをどのように改善できるか？
• RQ2 関連信号の振幅と、意味のある診断情報の存在との間にどのような関係があるか？
• RQ3 臨床的に関連する特徴を損なうことなく、LRPマップのノイズを体系的に低減できるか？
• RQ4 修正されたLRP信号は、標準的なLRPと比較して、局所化能と妥当性の点でどのように異なるか？
• RQ5 医療分野における深層学習の解釈可能性を支援するための、関数近似の理論的枠組みを構築できるか？

主な発見

• 修正されたLRP手法により、サリエンシーマップのノイズが顕著に低減され、より整合性があり臨床的に妥当な視覚的説明が得られた。
• 関連マップにおける高振幅の局所的信号は、有用な情報含量を持つ領域を示しており、広がりや散乱した高振幅領域はノイズを示している。
• 修正されたLRPアプローチにより、病変境界を曇らせる不適切な活性化を抑制することで、3D U-Netの解釈可能性が向上した。
• 特に複雑な解剖的領域において、マルチモーダル虚血性ストローク画像における関連特徴の局所化が改善された。
• 開発された数学的枠組みにより、関数近似の理論的分析が可能となり、今後の医療AI分野における解釈可能性研究の基盤が強化された。
• ISLES 2017データセットを用いた検証により、小規模なデータセットにもかかわらず、視覚的説明の質が一貫して向上したことが確認された。