[논문 리뷰] Explainable AI For COVID-19 CT Classifiers: An Initial Comparison Study

Qinghao Ye, Jun Xia외 1명|arXiv (Cornell University)|2021. 04. 25.

COVID-19 diagnosis using AI참고 문헌 15인용 수 7

한 줄 요약

이 연구는 흉부 CT 영상에서 코로나19 분류를 위한 설명 가능 인공지능(XAI) 기반 딥러닝 모델을 제안한다. 주목사의 슬라이스 통합 및 XAI 기법(CAM, LIME, SHAP)을 통합하여 정확도와 해석 가능성 양면에서 향상시킨다. 이 모델은 VBNet과 같은 최신 기술보다 정확도가 12.5% 높으며, 병변 영역과 특징 기여도를 시각화하여 방사선의학적 의사결정을 지원한다.

ABSTRACT

Artificial Intelligence (AI) has made leapfrogs in development across all the industrial sectors especially when deep learning has been introduced. Deep learning helps to learn the behaviour of an entity through methods of recognising and interpreting patterns. Despite its limitless potential, the mystery is how deep learning algorithms make a decision in the first place. Explainable AI (XAI) is the key to unlocking AI and the black-box for deep learning. XAI is an AI model that is programmed to explain its goals, logic, and decision making so that the end users can understand. The end users can be domain experts, regulatory agencies, managers and executive board members, data scientists, users that use AI, with or without awareness, or someone who is affected by the decisions of an AI model. Chest CT has emerged as a valuable tool for the clinical diagnostic and treatment management of the lung diseases associated with COVID-19. AI can support rapid evaluation of CT scans to differentiate COVID-19 findings from other lung diseases. However, how these AI tools or deep learning algorithms reach such a decision and which are the most influential features derived from these neural networks with typically deep layers are not clear. The aim of this study is to propose and develop XAI strategies for COVID-19 classification models with an investigation of comparison. The results demonstrate promising quantification and qualitative visualisations that can further enhance the clinician's understanding and decision making with more granular information from the results given by the learned XAI models.

연구 동기 및 목표

• 의료 영상에서 딥러닝 모델의 흑박상자 성향 문제를 해결하기 위해, 특히 코로나19 CT 분류에 초점을 맞춘다.
• 임상적 맥락에서 모델 예측을 해석하기 위한 다수의 XAI 기법(CAM, LIME, SHAP)을 개발하고 비교한다.
• 방사선의와 임상의가 모델 결정의 투명성과 추적 가능성을 확보할 수 있도록 분류 성능 향상과 함께 보장한다.
• 정량적 지표와 주목사 기반 시각화를 통해 공개 데이터셋(CC-CCII)에서 모델을 검증한다.
• 설명 가능 인공지능이 병변 영역과 특징 기여도를 강조함으로써 임상적 의사결정을 향상시킬 수 있음을 입증한다.

제안 방법

• 3D 잔차 컬러리지널 네트워크에 슬라이스 통합 모듈을 설계하여 슬라이스 간 특징를 통합하면서도 공간적 특성을 유지한다.
• 초기 CT 볼륨 분할을 위해 U-Net을 사용하고, 이후 무작위 자르기 및 리사이징을 통해 224×224 픽셀로 변환하며, 50% 수평 뒤집기 증강을 적용한다.
• 고전적 주목기법을 적용하여 유의미한 슬라이스를 가중치화하고 병변 영역에 집중한다.
• Grad-CAM을 사용하여 클래스 활성화 맵을 생성하여 입력 CT 영상의 구분력 있는 영역을 강조한다.
• LIME는 입력 영상을 슈퍼픽셀로 나누고, 모델 예측에 대한 국소 기여도를 추정한다.
• SHAP 값은 각 슈퍼픽셀이 최종 예측에 미치는 정/부적 기여도를 정량화하여 전역 및 국소 해석 가능성을 제공한다.

실험 결과

연구 질문

• RQ1 XAI 기법은 코로나19 CT 분류에서 딥러닝 모델의 해석 가능성을 어떻게 향상시킬 수 있는가?
• RQ2 CAM, LIME, SHAP 중 어떤 XAI 방법이 모델 예측에 대해 가장 신뢰성 있고 임상적으로 의미 있는 설명을 제공하는가?
• RQ3 주목기 기반 슬라이스 가중치 통합 방식은 표준 3D 또는 2D 모델 대비 분류 정확도 향상에 기여하는가?
• RQ4 시각화된 주목사 맵은 병변 영역을 식별하는 방사선 전문가의 전문 지식과 얼마나 일치하는가?
• RQ5 설명 가능한 특징은 양성 케이스에 대한 편향을 줄이고 음성 예측 성능을 향상시킬 수 있는가?

주요 결과

• 제안된 모델은 VBNet보다 12.5% 높은 정확도를 달성하여 CT 영상에서 코로나19를 분류하는 데 있어 뚜렷한 성능 향상을 보였다.
• Grad-CAM 시각화 결과 병변 영역이 명확히 강조되었으며, 활성화 맵이 일관되게 임상적 관심 영역에 집중하였다.
• LIME 기반 슈퍼픽셀 시각화 결과 병변이 포함된 영역이 가장 긍정적인 기여 요소로 확인되어 모델이 병리학적 영역에 집중하고 있음을 확인하였다.
• SHAP 값 분석 결과 병변 영역은 높은 긍정적 기여도를 보였고, 배경 영역는 부정적 기여도를 보여 노이즈 억제 효과를 입증하였다.
• 슬라이스 수준의 변동성과 학습 레이블의 노이즈를 더 잘 처리함으로써, 이미지 수준 모델(예: ResNet-50, COVID-Net)보다 우수한 성능을 보였다.
• XAI 기법의 통합은 정량적 및 정성적 통찰을 제공하여 딥러닝 분류기의 신뢰도와 임상적 유용성을 향상시켰다.