[논문 리뷰] Explainable Deep Learning Methods in Medical Image Classification: A Survey

Cristiano Patrício, João C. Neves외 1명|arXiv (Cornell University)|2022. 05. 10.

Radiomics and Machine Learning in Medical Imaging인용 수 7

한 줄 요약

이 종합 검토는 의료 영상 분류 분야에서 설명 가능한 딥러닝 기법에 대해 시각적, 텍스트 기반, 예시 기반, 개념 기반 설명 기법에 중점을 두어 포괄적인 검토를 제공한다. 보고서 생성 모델의 기존 데이터셋, 벤치마킹 지표 및 성능를 평가하며, 영상진단 분야에서 해석 가능한 AI를 임상에 도입하기 위한 주요 과제와 향후 연구 방향을 규명한다.

ABSTRACT

The remarkable success of deep learning has prompted interest in its application to medical imaging diagnosis. Even though state-of-the-art deep learning models have achieved human-level accuracy on the classification of different types of medical data, these models are hardly adopted in clinical workflows, mainly due to their lack of interpretability. The black-box-ness of deep learning models has raised the need for devising strategies to explain the decision process of these models, leading to the creation of the topic of eXplainable Artificial Intelligence (XAI). In this context, we provide a thorough survey of XAI applied to medical imaging diagnosis, including visual, textual, example-based and concept-based explanation methods. Moreover, this work reviews the existing medical imaging datasets and the existing metrics for evaluating the quality of the explanations. In addition, we include a performance comparison among a set of report generation-based methods. Finally, the major challenges in applying XAI to medical imaging and the future research directions on the topic are also discussed.

연구 동기 및 목표

• 블랙박스 딥러닝 모델에 대한 임상적 신뢰 부족 문제를 해결하기 위해 의료 영상에 특화된 설명 가능한 AI(XAI) 기법을 검토한다.
• 의료 영상 분류에서 사후적 해석과 본질적으로 해석 가능한 모델 간의 체계적 비교를 제공한다.
• 의료 영상에서 시각적 및 텍스트 기반 설명의 품질 평가 지표를 평가하고 벤치마킹한다.
• NLP 지표와 임상적 관련성의 관점에서 보고서 생성 기반 XAI 기법의 성능을 분석한다.
• 실제 임상 워크플로우에 XAI를 도입하기 위한 주요 장애 요인과 향후 연구 방향을 규명한다.

제안 방법

• XAI 기법을 특징 기여도, 텍스트 기반 설명, 예시 기반, 개념 기반 설명의 네 가지 모odal로 계층적으로 분류한다.
• 사후적 방법(예: 시각화 지도, 차폐, 변형)과 본질적으로 해석 가능한 모델(예: 어텐션 메커니즘, 희소 네트워크)을 검토하고 비교한다.
• Grad-CAM, 통합 기울기, 인간이 레이블링한 관련성 지ap 등 지표를 사용해 시각적 설명의 품질을 평가한다.
• BLEU, ROUGE, CIDEr 등의 표준 NLP 지표를 사용해 텍스트 기반 설명의 품질을 평가하며, 영상진단 보고서 생성에 중점을 둔다.
• 자유 텍스트 보고서 생성을 위한 Transformer 기반 및 기초 모델 기반 접근법의 성능을 분석한다.
• 해석의 정확성과 임상적 타당성을 평가하기 위한 프레임워크를 제안하며, 객관적이고 자동화된 지표의 필요성을 강조한다.

실험 결과

연구 질문

• RQ1 의료 영상 분류에 가장 효과적인 사후적 해석 기법과 본질적으로 해석 가능한 XAI 기법은 무엇인가?
• RQ2 시각적, 텍스트 기반, 예시 기반, 개념 기반 설명 기법 간의 임상적 해석 가능성과 신뢰성 측면에서의 비교는 어떻게 이루어지는가?
• RQ3 기존 XAI 평가 지표의 한계는 무엇이며, 어떻게 향상시킬 수 있는가?
• RQ4 최신 보고서 생성 모델(예: Transformer)은 임상적으로 관련성 있고 일관성 있는 영상진단 보고서를 얼마나 잘 생성하는가?
• RQ5 실제 임상 환경에 XAI를 도입하기 위한 주요 장애 요인는 무엇이며, 이를 극복하기 위해 어떤 향후 연구가 필요한가?

주요 결과

• Grad-CAM 및 통합 기울기와 같은 사후적 XAI 기법은 널리 사용되지만 안정성 부족과 강건성 결여로 인해 설명의 신뢰성에 우려가 제기된다.
• 본질적으로 해석 가능한 모델은 사후 분석에 대한 의존도가 낮고 내재된 투명성 덕분에 점점 더 주목받고 있으며, 더 신뢰할 수 있는 설명을 제공한다.
• Transformer 기반 텍스트 기반 설명 기법은 기존 RNN 대비 더 일관성 있고 맥락에 부합하는 영상진단 보고서 생성 성능을 보인다.
• 텍스트 기반 설명 평가 지표(예: BLEU, ROUGE)는 인간 평가와 중간 정도의 상관관계를 보이지만, 임상적 관련성을 평가하는 데에는 부족하다.
• 현재 방법이 여전히 주로 주관적인 인간 레이블링에 의존하므로, 설명 품질 평가를 위한 객관적이고 자동화된 지표의 필요성이 매우 크다.
• 규제 준수, 데이터 프라이버시, 임상적 검증은 실생활 의료 환경에서 XAI를 도입하는 데 있어 주요 장벽으로 남아 있다.