[논문 리뷰] Interpretable Medical Imagery Diagnosis with Self-Attentive Transformers: A Review of Explainable AI for Health Care

Tin Lai|arXiv (Cornell University)|2023. 09. 01.

Explainable Artificial Intelligence (XAI)Computer Science인용 수 3

한 줄 요약

이 논문은 해석 가능한 의료 영상 진단을 위한 자기주의 시각 트랜스포머(비트)에 대해 검토하며, 비트의 의사결정 과정을 해독하기 위한 XAI 기법을 제안한다. 주의 맵과 선명도 시각화를 활용하여, 인공지능 기반 의료 진단의 투명성을 향상시켜 임상 현장에서 모델 예측에 대한 신뢰와 검증을 가능하게 한다.

ABSTRACT

Recent advancements in artificial intelligence (AI) have facilitated its widespread adoption in primary medical services, addressing the demand-supply imbalance in healthcare. Vision Transformers (ViT) have emerged as state-of-the-art computer vision models, benefiting from self-attention modules. However, compared to traditional machine-learning approaches, deep-learning models are complex and are often treated as a "black box" that can cause uncertainty regarding how they operate. Explainable Artificial Intelligence (XAI) refers to methods that explain and interpret machine learning models' inner workings and how they come to decisions, which is especially important in the medical domain to guide the healthcare decision-making process. This review summarises recent ViT advancements and interpretative approaches to understanding the decision-making process of ViT, enabling transparency in medical diagnosis applications.

연구 동기 및 목표

• 의료 영상에 사용되는 딥 러닝 모델, 특히 시각 트랜스포머(ViT)에서의 해석 가능성 부족 문제를 해결하기 위해.
• ViT 아키텍처의 최근 발전과 설명 가능 인공지능(XAI) 기법과의 통합을 검토하기 위해.
• ViT의 주의 메커니즘이 의료 영상 진단에 대한 인간이 이해할 수 있는 설명을 생성하는 데 어떻게 활용될 수 있는지 분석하기 위해.
• XAI 기법이 인공지능 기반 진단 시스템의 투명성과 임상적 신뢰도 향상에 얼마나 효과적인지 평가하기 위해.
• 해석 가능한 의료 AI 분야의 현재 과제와 향후 방향에 대한 종합적 개요 제공하기 위해.

제안 방법

• 의료 영상 분석을 위한 핵심 딥 러닝 아키텍처로 시각 트랜스포머(ViT)를 활용하며, 다중 헤드 자기주의 메커니즘을 활용한다.
• 예측에 가장 영향을 준 영역을 강조하기 위해 주의 맵 시각화를 적용한다.
• 입력 영상의 의사결정 관련 특징을 국소화하기 위해 Grad-CAM 및 통합 기울기와 같은 선명도 기반 설명 방법을 활용한다.
• ViT에 적합한 클래스 활성화 맵 기법을 통합하여 클래스별 주의 히트맵을 생성한다.
• ViT에 특화된 다양한 XAI 기법을 검토하고 비교하며, 임상 영상 작업에서의 적용 가능성과 신뢰성에 중점을 둔다.
• 다양한 의료 영상 모odalities(예: X-ray, MRI, CT)에서 주의 기반 설명의 정밀도와 강건성 분 析하기

실험 결과

연구 질문

• RQ1 어떻게 주의 기반 설명을 활용하여 시각 트랜스포머를 의료 영상 진단에 대해 해석 가능하게 만들 수 있는가?
• RQ2 의료 영상에 적용된 ViT 모델의 의사결정 과정을 시각화하기 위해 가장 효과적인 XAI 기법은 무엇인가?
• RQ3 ViT의 주의 맵은 전통적인 CNN 기반 선명도 맵에 비해 임상적 해석 가능성에서 어떻게 비교되는가?
• RQ4 XAI 방법은 임상의가 AI 기반 진단을 얼마나 더 신뢰하고 이해하는지에 대해 어느 정도 향상시키는가?
• RQ5 ViT 기반 의료 진단 시스템에 XAI를 적용할 때의 한계와 과제는 무엇인가?

주요 결과

• 시각 트랜스포머의 자기주의 메커니즘은 주의 가중치를 통해 관련 영역을 강조함으로써 내재된 해석 가능성을 제공한다.
• 다양한 의료 영상 작업에서 기존의 CNN 기반 방법에 비해 ViT의 주의 기반 설명이 병변의 국소화 능력에서 향상됨을 보였다.
• Grad-CAM 및 통합 기울기와 같은 XAI 기법은 방사선 영상 결과와 일치하는 클래스별 선명도 맵을 효과적으로 생성한다.
• 특히 복잡한 해부학적 구조에서 ViT의 주의 맵은 컨volutional 모델보다 더 높은 정밀도를 보였다.
• 의료진은 주의 기반 시각적 설명이 제공될 경우 AI 예측에 대해 더 높은 신뢰를 갖게 되었다.
• 진전이 있었음에도 불구하고, XAI 평가의 표준화 및 다양한 의료 영상 데이터셋에서의 강건성 확보 문제는 여전히 남아 있다.