[논문 리뷰] Guidelines and Evaluation of Clinical Explainable AI in Medical Image Analysis

Weina Jin, Xiaoxiao Li외 2명|arXiv (Cornell University)|2022. 02. 16.

Radiomics and Machine Learning in Medical Imaging인용 수 7

한 줄 요약

이 논문은 의료 영상 분석에서 설명 가능한 인공지능(XAI)을 평가하기 위한 다섯 가지 기준—이해 가능성, 임상적 관련성, 진실성, 정보적 타당성, 계산 효율성—으로 구성된 Clinical XAI 가이드라인을 제안한다. 저자들은 새로운 평가 지표를 사용해 16개의 히트맵 XAI 방법을 평가한 결과, 진실성과 타당성 측면에서 실패함을 확인하여, 임상적으로 실현 가능한 설명을 식별하는 데 이 프레임워크의 유용성을 입증한다.

ABSTRACT

Explainable artificial intelligence (XAI) is essential for enabling clinical users to get informed decision support from AI and comply with evidence-based medical practice. Applying XAI in clinical settings requires proper evaluation criteria to ensure the explanation technique is both technically sound and clinically useful, but specific support is lacking to achieve this goal. To bridge the research gap, we propose the Clinical XAI Guidelines that consist of five criteria a clinical XAI needs to be optimized for. The guidelines recommend choosing an explanation form based on Guideline 1 (G1) Understandability and G2 Clinical relevance. For the chosen explanation form, its specific XAI technique should be optimized for G3 Truthfulness, G4 Informative plausibility, and G5 Computational efficiency. Following the guidelines, we conducted a systematic evaluation on a novel problem of multi-modal medical image explanation with two clinical tasks, and proposed new evaluation metrics accordingly. Sixteen commonly-used heatmap XAI techniques were evaluated and found to be insufficient for clinical use due to their failure in G3 and G4. Our evaluation demonstrated the use of Clinical XAI Guidelines to support the design and evaluation of clinically viable XAI.

연구 동기 및 목표

• 의료 영상 분석에서 임상적 XAI에 대한 표준화된 평가 기준 부족 문제를 해결한다.
• 실세계 의료 의사결정 과정과 연계된 기준을 정의하여 기술적 XAI 평가와 임상적 사용 가능성 사이의 격차를 메운다.
• XAI 기법이 기술적으로 타당할 뿐 아니라 임상적으로 의미 있고 운영적으로 실현 가능하도록 보장한다.
• 다중 모odal 의료 영상 작업에서 설명의 임상적 타당성과 진실성을 평가하기 위한 새로운 평가 지표를 개발한다.
• 16개의 일반적인 XAI 방법을 평가하여 이 프레임워크의 유용성을 입증하고 임상적 한계를 규명한다.

제안 방법

• 임상적 XAI를 위한 다섯 가지 핵심 기준을 제안한다: 이해 가능성, 임상적 관련성, 진실성, 정보적 타당성, 계산 효율성.
• G1(이해 가능성)과 G2(임상적 관련성) 기반의 설명 양식을 정의한 후, G3(진실성), G4(정보적 타당성), G5(계산 효율성)를 최적화한다.
• 다중 모달리티 영상에서 중요한 특징과 모달리티의 국소화 정도를 측정함으로써 타당성을 정량화하는 MSFI 지표를 도입한다.
• 의사 평가와 MSFI 점수 간의 상관관계 분 析을 통해 타당성 지표의 타당성을 검증한다.
• 모델 성능, 예측 정확도, 불확실성과의 상관관계를 측정하여 진실성 평가를 수행한다.
• 실시간 임상 워크플로우를 고려해 런타임과 자원 사용량을 측정함으로써 계산 효율성을 평가한다.

실험 결과

연구 질문

• RQ1 의료 영상 분석에서 XAI 기법은 어떻게 평가되어야 하며, 이를 통해 기술적으로 타당하고 임상적으로 유용한가를 보장할 수 있는가?
• RQ2 임상적 배포에 있어 가장 중요한 XAI 평가 기준은 무엇이며, 어떻게 우선순위를 정해야 하는가?
• RQ3 기존의 히트맵 기반 XAI 방법들은 임상 환경에서 진실성과 정보적 타당성 요구사항을 얼마나 충족하는가?
• RQ4 정량화된 타당성 지표는 XAI의 임상적 유용성을 평가하는 데 있어 인간 평가를 대체로 신뢰할 수 있는가?
• RQ5 시간 민감도가 높은 임상 의사결정 지원에서 XAI가 실현 가능하기 위해 필요한 계산 효율성의 기준은 무엇인가?

주요 결과

• 16개의 일반적으로 사용되는 히트맵 XAI 기법은 진실성(G3)과 정보적 타당성(G4) 기준을 충족하지 못하여 임상적 유용성이 제한된다.
• 의사 평가와 유의미한 상관관계를 보인 MSFI 지표는 임상적 타당성의 대체 지표로 사용될 수 있음을 검증한다.
• 설명의 타당성 측정치는 모델 성능과 예측 정확도와 상관관계를 보이며, 이는 AI 오류와 편향을 탐지하는 데의 유용성을 시사한다.
• 계산 효율성은 다양하게 나타나며, 기울기 기반 방법은 10초 이내에 설명을 생성하지만, 샤플리 값 샘플링은 최대 30분이 소요되어 실시간 사용에는 부적합하다.
• Clinical XAI 가이드라인은 XAI 설계 및 평가를 위한 체계적인 프레임워크를 제공하여 정확하고 임상적으로 실행 가능한 방법의 선택을 가능하게 한다.
• MSFI와 같은 지표를 통한 타당성 정량화는 주관적인 인간 평가에만 의존하지 않고도 재현 가능하고 자동화되며 표준화된 XAI 유용성 검증을 가능하게 한다.