[論文レビュー] Interpretable Medical Imagery Diagnosis with Self-Attentive Transformers: A Review of Explainable AI for Health Care

Tin Lai|arXiv (Cornell University)|Sep 1, 2023

Explainable Artificial Intelligence (XAI)Computer Science被引用数 3

ひとこと要約

本論文は、解釈可能な医療画像診断のための自己注意型ビジョントランスフォーマー（ViT）をレビューし、ViTの意思決定プロセスを解釈可能にするためのXAI手法を提案する。注目マップとサリエンシー可視化を活用することで、AI駆動の医療診断における透明性が向上し、臨床現場におけるモデル予測の信頼性と検証が可能になる。

ABSTRACT

Recent advancements in artificial intelligence (AI) have facilitated its widespread adoption in primary medical services, addressing the demand-supply imbalance in healthcare. Vision Transformers (ViT) have emerged as state-of-the-art computer vision models, benefiting from self-attention modules. However, compared to traditional machine-learning approaches, deep-learning models are complex and are often treated as a "black box" that can cause uncertainty regarding how they operate. Explainable Artificial Intelligence (XAI) refers to methods that explain and interpret machine learning models' inner workings and how they come to decisions, which is especially important in the medical domain to guide the healthcare decision-making process. This review summarises recent ViT advancements and interpretative approaches to understanding the decision-making process of ViT, enabling transparency in medical diagnosis applications.

研究の動機と目的

• 医療画像分野で用いられる深層学習モデル、特にビジョントランスフォーマー（ViT）における解釈可能性の欠如に対処すること。
• ViTアーキテクチャの最近の進展と説明可能AI（XAI）手法との統合をレビューすること。
• ViTに内蔵された注目メカニズムを活用して、医療画像診断のための人に理解可能な説明を生成する方法を分析すること。
• XAI手法の有効性がAI駆動診断システムの透明性と臨床的信頼性を向上させるかどうかを評価すること。
• 解釈可能なAI分野における現在の課題と今後の方向性を包括的に概説すること。

提案手法

• 医療画像分析のコアとなる深層学習アーキテクチャとしてビジョントランスフォーマー（ViT）を採用し、マルチヘッド自己注意メカニズムを活用する。
• 注目マップの可視化を適用して、モデルの予測に最も影響を与えた画像領域を強調表示する。
• Grad-CAM や統合勾配（Integrated Gradients）などのサリエンシーに基づく説明手法を用いて、入力画像内の意思決定に関連する特徴を局所化する。
• ViT向けに適応されたクラス活性化マッピング技術を統合し、クラス固有の注目ヒートマップを生成する。
• ViTに特化したさまざまなXAI手法をレビュー・比較し、臨床画像診断タスクにおける適用可能性と信頼性に焦点を当てる。
• 多様な医療画像モodalities（例：レントゲン、MRI、CT）における注目ベースの説明の忠実性と頑健性を分析する。

実験結果

リサーチクエスチョン

• RQ1 注目ベースの説明を用いて、ビジョントランスフォーマーを医療画像診断に解釈可能にする方法は何か？
• RQ2 医療画像に応用されたViTモデルの意思決定を可視化するための最も効果的なXAI手法は何か？
• RQ3 ViTの注目マップは、従来のCNNベースのサリエンシー・マップと比べて、臨床的解釈性においてどのように異なるか？
• RQ4 XAI手法は、医療従事者のAIによる診断に対する信頼性と理解度をどの程度向上させるか？
• RQ5 ViTを基盤とする医療診断システムへのXAIの適用における限界と課題は何か？

主な発見

• ビジョントランスフォーマー内の自己注意メカニズムは、注目重みを通じて関連画像領域を強調することで、内在的な解釈可能性を提供する。
• 複数の医療画像診断タスクにおいて、ViTの注目ベースの説明は、従来のCNNベースの手法と比較して、病変の局所化が向上している。
• Grad-CAM や統合勾配（Integrated Gradients）などのXAI手法は、放射線科的所見と整合するクラス固有のサリエンシー・マップを効果的に生成する。
• 特に複雑な解剖学的構造において、ViTの注目マップの忠実度は畳み込みモデルよりも高い。
• 臨床医は、注目ベースの視覚的説明が提供された場合、AI予測に対する信頼性を高めている。
• 進展は見られるが、XAIの評価基準の標準化や、多様な医療画像データセットにおける頑健性の確保という課題は依然として残っている。