[논문 리뷰] Visual Interpretable and Explainable Deep Learning Models for Brain Tumor MRI and COVID-19 Chest X-ray Images

Yusuf Brima, Marcellin Atemkeng|arXiv (Cornell University)|2022. 08. 01.

Machine Learning in Healthcare인용 수 5

한 줄 요약

이 논문은 뇌종양 MRI 및 코로나19 흉부 X-ray 분류에 활용되는 딥러닝 모델을 해석하기 위해 적응형 경로 기반 통합 기울기(adaptive path-based integrated gradients)를 제안한다. 시각적 기여도 맵을 생성함으로써, 예측과 관련된 주요 이미지 영역을 드러내고, 잠재적 생물학적 지표를 식별하며, 모델 편향을 폭 드러내며, 기준 방법 대비 향상된 해석 가능성(특히 XRAI와 Blur IG를 조합하여 전문가 세그먼테이션과 35%의 일치도를 달성함)을 입증한다.

ABSTRACT

Deep learning shows promise for medical image analysis but lacks interpretability, hindering adoption in healthcare. Attribution techniques that explain model reasoning may increase trust in deep learning among clinical stakeholders. This paper aimed to evaluate attribution methods for illuminating how deep neural networks analyze medical images. Using adaptive path-based gradient integration, we attributed predictions from brain tumor MRI and COVID-19 chest X-ray datasets made by recent deep convolutional neural network models. The technique highlighted possible biomarkers, exposed model biases, and offered insights into the links between input and prediction. Our analysis demonstrates the method's ability to elucidate model reasoning on these datasets. The resulting attributions show promise for improving deep learning transparency for domain experts by revealing the rationale behind predictions. This study advances model interpretability to increase trust in deep learning among healthcare stakeholders.

연구 동기 및 목표

• 의료 영상 분석에 사용되는 딥러닝 모델의 해석 가능성 향상을 위한 기여도 방법 평가.
• 딥러닝 모델 예측에 기여하는 뇌종양 MRI 및 코로나19 흉부 X-ray 영상의 주요 특징 식별.
• 시각적 설명 기법을 통해 모델 편향 탐지 및 잠재적 생물학적 지표 노출.
• 인간-중심 검증을 가능하게 함으로써 AI 보조 진단의 신뢰도 및 투명도 향상.
• 의료 현장에서의 딥러닝 도입을 지원하기 위해 모델 결정에 대한 시각적, 해석 가능한 설명 제공.

제안 방법

• 딥 컨volution 신경망의 다수의 레이어를 통해 기여도를 계산하기 위해 적응형 경로 기반 통합 기울기를 도입.
• 기여도 계산의 정보 중립성 확보를 위해 기준 입력으로 0 픽셀을 사용.
• 향상된 색채 맵 생성을 위해 XRAI(XAI 기반 기여도 할당) 및 블러 통합 기울기(Blur IG)를 적용.
• 다양한 기여도 기법(XRAI 및 Blur IG)을 조합하여 해석의 강건성 및 전문가가 세그먼테이션한 영역과의 일치도 향상.
• 기여도 맵을 전문가가 검증한 세그먼테이션 결과와 비교하여 해석 가능성 및 정확도 정량화.
• 다양한 아키텍처를 통해 모델 행동 분석을 수행하여 인도크티브 바이어스가 색채 맵 패턴에 미치는 영향 평가.

실험 결과

연구 질문

• RQ1 다양한 기여도 방법은 뇌종양 MRI 및 코로나19 X-ray 영상에서 관련 영역을 어떻게 강조하는가?
• RQ2 기여도 맵은 의료 영상에서 전문가가 세그먼테이션한 관심 영역과 어느 정도 일치하는가?
• RQ3 CNN의 아키텍처 사전 지식은 색채 맵의 선택성과 품질에 어떤 영향을 미치는가?
• RQ4 여러 기여도 기법을 조합하면 모델 설명의 신뢰성 및 해석 가능성은 어떻게 향상되는가?
• RQ5 기여도 방법은 의료 영상에서 모델 편향과 잠재적 생물학적 지표를 노출시키는 데 어떤 역할을 하는가?

주요 결과

• XRAI와 Blur IG의 조합은 전문가가 세그먼테이션한 영역과 35%의 겹침을 보이며 임상적으로 관련된 영역과의 강력한 일치를 나타낸다.
• XRAI는 순수 기울기 및 가이드된 통합 기울기 대비 더 높은 해석 가능성 보여주며, 특히 관심 영역 특징 식별에 뛰어남.
• 다른 기여도 방법은 서로 다른 패턴을 드러내며, 모델 및 데이터 특성에 따라 방법 선택의 중요성을 강조함.
• 더 강한 인도크티브 바이어스를 가진 모델 아키텍처는 더 선택적인 수용장역을 보이며, 색채 맵 품질과 해석 가능성에 영향을 미침.
• 기여도 방법은 인간의 시각 처리 방식과 일치하지 않는 텍스처, 형태, 주파수 반응 관련 모델 편향 폭 드러냄.
• 본 연구는 강력한 표현 학습과 적절한 기여도 기법이 의료 영상에서 신뢰할 수 있고 설명 가능한 색채 맵 생성에 필수적임을 확인함.