[논문 리뷰] Explainable Artificial Intelligence for Medical Applications: A Review

Qiyang Sun, Alican Akman외 1명|arXiv (Cornell University)|2024. 11. 15.

Machine Learning in Healthcare인용 수 4

한 줄 요약

이 리뷰는 의료 응용 분야를 위한 설명 가능한 인공지능(XAI) 기법을 종합적으로 분석하며, 시각적, 청각적, 다중모odal 영역에서 19가지 기법을 분류하여 AI 기반 진단의 투명성을 향상시킨다. 임상적 신뢰도, 공정성 및 실생활 적용을 높이기 위해 사용자 중심, 다중모달, 개인화된 XAI 프레임워크의 구현을 주장한다.

ABSTRACT

The continuous development of artificial intelligence (AI) theory has propelled this field to unprecedented heights, owing to the relentless efforts of scholars and researchers. In the medical realm, AI takes a pivotal role, leveraging robust machine learning (ML) algorithms. AI technology in medical imaging aids physicians in X-ray, computed tomography (CT) scans, and magnetic resonance imaging (MRI) diagnoses, conducts pattern recognition and disease prediction based on acoustic data, delivers prognoses on disease types and developmental trends for patients, and employs intelligent health management wearable devices with human-computer interaction technology to name but a few. While these well-established applications have significantly assisted in medical field diagnoses, clinical decision-making, and management, collaboration between the medical and AI sectors faces an urgent challenge: How to substantiate the reliability of decision-making? The underlying issue stems from the conflict between the demand for accountability and result transparency in medical scenarios and the black-box model traits of AI. This article reviews recent research grounded in explainable artificial intelligence (XAI), with an emphasis on medical practices within the visual, audio, and multimodal perspectives. We endeavour to categorise and synthesise these practices, aiming to provide support and guidance for future researchers and healthcare professionals.

연구 동기 및 목표

• 복잡한 모델의 흑상자 성격으로 인해 AI 기반 의료 의사결정의 투명성과 책임성에 대한 필수적인 필요성을 해결한다.
• 의료 영상, 청각, 다중모달 응용 분야에 걸쳐 19가지 XAI 기법을 체계적으로 분류하고 평가한다.
• 현재 XAI 연구의 격차, 특히 청각 및 다중모달 의료 분야에서의 격차를 식별하고 향상 방안을 제안한다.
• 임상적 관련성과 사용자 신뢰를 향상시키기 위해 환자 및 의료진의 피드백을 XAI 개발에 통합할 것을 촉구한다.
• 공정성, 편향 완화, 다양한 대표성 있는 데이터셋을 강조함으로써 윤리적인 의료 AI의 발전을 선도한다.

제안 방법

• 모델 유형, 설명 유형, 모odal, 구현 방식의 네 가지 기준을 바탕으로 19가지 XAI 기법의 분류 체계를 제안한다.
• 구현 기반 분류를 사용하여 각 기법을 해석 가능성, 충실도, 임상적 사용 가능성을 기준으로 평가한다.
• 최근의 XAI 응용 사례를 검토하고 종합적으로 분석한다: 의료 영상(예: 종양 탐지용 CNN), 청각 분석(예: 음성 병리학), 다중모달 시스템(예: 영상과 생리적 데이터를 통합하는 트랜스포머).
• 데이터를 비어 있는 음성 형태로 변환하는 기법인 소니피케이션을 도입하여 다중모달 데이터의 설명을 향상시킨다.
• 편향 탐지 및 감소를 위해 모델 훈련 및 해석 과정에서 공정성 지표(예: 이질적 영향, 동등한 기회)를 사용할 것을 주장한다.
• 실제 임상 적용을 위해 의료진과 환자의 참여가 필수적임을 강조한다. 데이터 수집 및 설명 설계 과정에서의 사용자 중심 개발이 실용성과 수용성 확보에 기여한다.

실험 결과

연구 질문

• RQ1 의료 응용 분야에서 시각적, 청각적, 다중모달 영역에 걸쳐 XAI 기법을 체계적으로 분류하고 평가하는 방법은 무엇인가?
• RQ2 의료 분야에서 XAI의 현재 한계는 무엇이며, 특히 청각 및 다중모달 의료 분야에서 어떻게 보완할 수 있는가?
• RQ3 임상 의사결정 과정에서 개인 환자 프로필에 맞게 보다 개인화되고 상호작용적이며 적응 가능한 XAI 모델은 어떻게 설계할 수 있는가?
• RQ4 데이터 다양성과 공정성 지표는 의료 XAI 시스템에서 편향을 줄이고 윤리적 기준을 향상시키는 데 어떤 역할을 하는가?
• RQ5 소니피케이션과 같은 새로운 설명 방법은 다중모달 환경에서 복잡한 의료 데이터의 해석 가능성에 어떻게 기여하는가?

주요 결과

• 선택도 맵, LIME, 주의력 시각화와 같은 XAI 기법은 의료 영상 분야에서 딥러닝 모델을 해석하는 데 강력한 잠재력을 보이며, 임상의의 신뢰도와 진단 정확도를 향상시킨다.
• 청각 기반 의료 AI 응용 분야는 XAI에서 여전히 미비하게 다뤄지고 있으며, 음향 데이터의 시간적 및 스펙트럼적 특성에 맞는 기법 사용이 제한적이다.
• 특히 영상, 청각, 생리적 데이터를 통합하는 트랜스포머 기반의 다중모달 XAI는 보다 포괄적이고 맥락 인식 가능한 임상 통찰을 가능하게 한다.
• 소니피케이션은 복잡한 의료 데이터를 설명하기 위한 새로운 비시각적 방법을 제공하며, 접근성 향상과 다중모달 이해를 강화한다.
• 현재 XAI 기법들은 실제 임상 환경에서 철저한 검증을 받지 못했으며, 사용성과 관련성을 확보하기 위해 임상의와 환자의 깊은 통합이 필요하다.
• 비대상 데이터셋은 의료 AI의 편향을 악화시키며, 공정성 평가와 데이터 증강 기법이 공정성 향상과 격차 감소를 위해 필수적이다.