[논문 리뷰] eXplainable Artificial Intelligence on Medical Images: A Survey

Matteus Vargas Simão da Silva, Rodrigo Reis Arrais외 16명|arXiv (Cornell University)|2023. 05. 12.

Radiomics and Machine Learning in Medical Imaging인용 수 4

한 줄 요약

이 종합 검토는 의료 영상에 적용된 설명 가능 인공지능(XAI) 기법에 대한 포괄적인 분석을 제공하며, LIME 및 SHAP와 같은 방법을 사용해 딥러닝 모델을 해석한 최근 32篇의 연구를 평가한다. 이는 컨volutional 네트워크(CNNs)의 지배적 우세성을 강조하고, 모델 투명성과 임상 신뢰성 향상을 위해 표준화된 평가 지표와 공유 가능한 의료 영상 데이터셋이 점점 더 필요로 하고 있음을 시사한다.

ABSTRACT

Over the last few years, the number of works about deep learning applied to the medical field has increased enormously. The necessity of a rigorous assessment of these models is required to explain these results to all people involved in medical exams. A recent field in the machine learning area is explainable artificial intelligence, also known as XAI, which targets to explain the results of such black box models to permit the desired assessment. This survey analyses several recent studies in the XAI field applied to medical diagnosis research, allowing some explainability of the machine learning results in several different diseases, such as cancers and COVID-19.

연구 동기 및 목표

• 의료 영상 진단을 위한 설명 가능 인공지능(XAI)의 최근 발전을 분석하여 딥러닝 모델의 해석 가능성과 신뢰성에 초점을 맞춘다.
• 의료 영상 응용 분야에서 공통적으로 사용되는 XAI 기법, 모델 아키텍처, 평가 관행을 규명한다.
• XAI 평가의 표준화 부족, 데이터 부족, 비공개 또는 재현 불가능한 데이터셋에 대한 의존성과 같은 핵심 과제를 부각시킨다.
• 의료진의 임상 의사결정을 향상시키기 위해 설명 가능하고 신뢰할 수 있으며 실행 가능한 모델 설명을 제공함으로써 XAI의 역할을 평가한다.
• 전산화된 대규모이고 다양한 의료 영상 데이터베이스를 구축하여 사전학습 및 모델 일반화를 지원할 것을 촉구한다.

제안 방법

• 2020–2023년 사이에 발표된 의료 영상에 XAI를 적용한 최근 연구 32편을 대상으로 체계적 검토를 수행하였으며, 연구의 독창성, 임상적 관련성, 설명 가능 딥러닝 기법의 사용 여부를 기준으로 선정하였다.
• 모델 아키텍처(예: ResNet, DenseNet, Vision Transformers, U-Net), 질병 대상, XAI 프레임워크(LIME, SHAP, 시각화 지ap 등)를 기준으로 분류하였다.
• 인간 전문가 검증 및 모델 독립형 대비 모델 특화형 설명 방법을 포함한 XAI 평가 관행에 대한 정성적 및 정량적 분석을 수행하였다.
• 데이터셋 특성 평가를 위해 데이터 가용성(공개 대비 비공개), 데이터 크기, 모odal(예: X-ray, MRI, 망막도, CT)을 분석하였다.
• 이미지 분류에서 局부적 특징 기여도를 분석하기 위해 LIME 및 SHAP의 광범위한 사용과 같은 XAI 도입 추세를 규명하였다.
• 특히 폐렴 및 코로나19 감별과 같은 고위험 조건에서의 모델 성능와 설명 가능성 간의 상충 관계를 분석하였다.

실험 결과

연구 질문

• RQ1 의료 영상 딥러닝에서 가장 흔히 사용되는 XAI 기법은 무엇이며, 어떻게 임상적 해석 가능성에 기여하는가?
• RQ2 의료 영상 XAI에서 지배적인 딥러닝 아키텍처는 무엇이며, 성능 및 설명 가능성 측면에서 어떻게 비교되는가?
• RQ3 현재 의료 영상에서 사용되는 XAI 방법은 다양한 임상 상황에서 신뢰할 수 있고 재현 가능하며 신뢰할 수 있는 모델 설명을 얼마나 잘 지원하는가?
• RQ4 의료 영상에서 XAI 방법을 평가할 때 주요 과제는 무엇이며, 왜 설명 가능성 평가를 위한 표준화된 지표가 존재하지 않는가?
• RQ5 데이터 가용성, 데이터셋의 기밀성, 대규모 공유 데이터베이스의 부재는 임상 현장에서 XAI의 개발 및 구현에 어떤 영향을 미치는가?

주요 결과

• LIME와 SHAP가 가장 널리 사용된 XAI 프레임워크로, 검토된 연구의 약 40%에서 사용되었으며(7편에서 LIME, 6편에서 SHAP), 주로 예측에 기여하는 영상 영역의 기여도를 설명하기 위해 사용되었다.
• 컨volutional 네트워크(CNNs)가 가장 흔한 모델 아키텍처로, 검토된 모델의 약 56%에서 사용되었으며, 이는 의료 영상 특징 추출에서의 효과성 덕분이었다.
• 코로나19와 폐렴이 가장 많이 대상으로 삼은 병변으로, 연구된 조건의 25%를 차지하여 팬데믹 기간 동안 설명 가능 인공지능의 긴급한 필요성을 반영하고 있다.
• 높은 정확도에도 불구하고 많은 모델들이 '블랙박스' 성격을 지녀 임상적 신뢰성이 떨어지며, 이는 임상 의사결정 지원을 위해 해석 가능성의 필요성을 강조하고 있다.
• 연구에서 사용된 데이터셋의 상당수는 비공개였으며, 이는 재현성에 악영향을 미치고 대규모 검증 및 벤치마킹을 저해하고 있었다.
• XAI 효과성 평가를 위한 표준화된 평가 지표 부재가 반복적인 문제로 나타났으며, 각 연구에서 설명 가능성의 정의가 맥락과 사용자 요구에 따라 다르게 설정되었다.