[논문 리뷰] A Brief Review of Explainable Artificial Intelligence in Healthcare

Zahra Sadeghi, Roohallah Alizadehsani외 14명|arXiv (Cornell University)|2023. 04. 04.

Machine Learning in Healthcare인용 수 4

한 줄 요약

이 논문은 의료 분야에서 설명 가능한 인공지능(XAI)에 대한 체계적 리뷰를 제공하며, XAI 방법을 특성 중심, 글로벌, 개념, 서rogate, 국소 픽셀 기반, 인간 중심의 6가지 유형으로 분류한다. 모델의 해석 가능성의 핵심적 역할이 임상의의 신뢰를 구축하고 고위험 의료 의사결정 환경에서 안전하고 투명한 AI 구현을 보장하는 데 기여함을 강조한다.

ABSTRACT

XAI refers to the techniques and methods for building AI applications which assist end users to interpret output and predictions of AI models. Black box AI applications in high-stakes decision-making situations, such as medical domain have increased the demand for transparency and explainability since wrong predictions may have severe consequences. Model explainability and interpretability are vital successful deployment of AI models in healthcare practices. AI applications' underlying reasoning needs to be transparent to clinicians in order to gain their trust. This paper presents a systematic review of XAI aspects and challenges in the healthcare domain. The primary goals of this study are to review various XAI methods, their challenges, and related machine learning models in healthcare. The methods are discussed under six categories: Features-oriented methods, global methods, concept models, surrogate models, local pixel-based methods, and human-centric methods. Most importantly, the paper explores XAI role in healthcare problems to clarify its necessity in safety-critical applications. The paper intends to establish a comprehensive understanding of XAI-related applications in the healthcare field by reviewing the related experimental results. To facilitate future research for filling research gaps, the importance of XAI models from different viewpoints and their limitations are investigated.

연구 동기 및 목표

• 의료 응용 분야에서 설명 가능한 AI(XAI) 기법의 현재 상태를 검토하기 위해.
• 의료 AI 시스템에 관련된 핵심 XAI 방법을 식별하고 분류하기 위해.
• 임상 환경에서 XAI를 구현할 때 발생하는 신뢰성 및 해석 가능성 장벽과 같은 과제를 분석하기 위해.
• 안전이 중요한 의료 환경에서 XAI가 모델의 투명성과 임상의의 의사결정에 어떤 영향을 미치는지 평가하기 위해.
• 의료 분야에서 XAI를 발전시키기 위해 향후 연구가 필요한 잠재적 연구 격차와 방향을 부각하기 위해.

제안 방법

• 의료 분야에 적용된 XAI 방법에 중점을 둔 체계적 문헌 리뷰를 수행하기 위해.
• XAI 기법을 특성 중심, 글로벌, 개념 모델, 서rogate 모델, 국소 픽셀 기반 방법, 인간 중심 접근 방식의 6개 범주로 분류하기 위해.
• 의료 영상, 진단 및 치료 계획 분야에서 XAI 응용의 실험 결과를 분석하기 위해.
• 각 XAI 방법이 모델의 투명성 향상과 사용자 신뢰 구축에 얼마나 효과적인지 평가하기 위해.
• 임상적 맥락에서 다양한 XAI 접근 방식의 한계와 과제를 평가하기 위해.
• 다양한 시각에서의 통찰을 통합하여 향후 의료 AI 분야의 연구 및 구현을 안내하기 위해.

실험 결과

연구 질문

• RQ1 의료 분야에서 주로 사용되는 XAI 방법은 무엇이며, 각 방법의 모델 설명 접근 방식은 어떻게 다릅니까?
• RQ2 XAI 기법은 AI 기반 의료 결정 수용에 있어 임상의의 신뢰와 수용을 어떻게 증진합니까?
• RQ3 실제 임상 환경에 XAI 모델을 구현할 때 발생하는 주요 과제는 무엇입니까?
• RQ4 의료 응용 분야에서 해석 가능성, 충실도, 사용성 측면에서 서로 다른 XAI 방법의 성능은 어떻게 다릅니까?
• RQ5 의료 분야의 XAI에서 향후 연구가 필요한 주요 연구 격차는 무엇입니까?

주요 결과

• LIME, SHAP, 그리고 어텐션 맵과 같은 XAI 방법은 의료 영상 및 진단 분야에서 모델의 해석 가능성 향상에 크게 기여한다.
• 인간 중심 XAI 접근 방식은 임상의의 만족도가 높고 임상적 추론 과정과 더 잘 부합함을 보여준다.
• 서rogate 모델과 개념 기반 방법은 복잡한 딥러닝 모델의 이해를 높이는 데 효과적이다.
• 국소 픽셀 기반 방법, 예를 들어 Grad-CAM은 의료 영상에서 관련 영역을 효과적으로 강조하여 진단의 투명성을 향상시킨다.
• 진전이 있었음에도 불구하고, XAI 평가의 표준화 및 다양한 임상 환경에서의 일관된 성능 확보에 어려움이 남아 있다.
• 기술적, 윤리적, 규제적 장벽으로 인해 XAI가 임상 워크플로우에 통합되는 데 아직 제한이 있으며, 이는 향후 연구 및 검증의 필요성을 시사한다.