[논문 리뷰] Explainable AI applications in the Medical Domain: a systematic review

Nicoletta Prentzas, Antonis Kakas외 1명|arXiv (Cornell University)|2023. 08. 10.

Artificial Intelligence in Healthcare and Education인용 수 19

한 줄 요약

의료 의사결정 지원에서 설명가능한 AI(XAI) 솔루션에 대한 체계적 검토로, 198편의 최근 기사를 분석하여 경향, 기법 및 격차를 식별합니다.

ABSTRACT

Artificial Intelligence in Medicine has made significant progress with emerging applications in medical imaging, patient care, and other areas. While these applications have proven successful in retrospective studies, very few of them were applied in practice.The field of Medical AI faces various challenges, in terms of building user trust, complying with regulations, using data ethically.Explainable AI (XAI) aims to enable humans understand AI and trust its results. This paper presents a literature review on the recent developments of XAI solutions for medical decision support, based on a representative sample of 198 articles published in recent years. The systematic synthesis of the relevant articles resulted in several findings. (1) model-agnostic XAI techniques were mostly employed in these solutions, (2) deep learning models are utilized more than other types of machine learning models, (3) explainability was applied to promote trust, but very few works reported the physicians participation in the loop, (4) visual and interactive user interface is more useful in understanding the explanation and the recommendation of the system. More research is needed in collaboration between medical and AI experts, that could guide the development of suitable frameworks for the design, implementation, and evaluation of XAI solutions in medicine.

연구 동기 및 목표

• 의료 의사결정 지원 및 관련 도메인에서 XAI의 사용을 동기 부여하고 맵핑합니다.
• 의료 AI 응용에서 사용되는 일반적인 XAI 기법과 모델 유형을 식별합니다.
• 설명가능성이 신뢰, 사용자 상호작용, 임상 통합을 어떻게 지원하는지 평가합니다.
• 의사 참여 및 의료와 AI 전문가 간의 협업과 같은 격차를 강조합니다.

제안 방법

• 최근 연도에서 198편의 대표적 문헌 샘플링을 수행합니다.
• 모델-비의존적 XAI 기법과 딥 러닝 모델의 보급 현황을 종합합니다.
• 설명가능성이 신뢰, 의사 참여, UI 설계에서의 역할을 평가합니다.

실험 결과

연구 질문

• RQ1 의료 의사결정 지원에서 가장 일반적으로 사용되는 XAI 기법은 무엇입니까?
• RQ2 어떤 모델 계열(예: 딥 러닝)이 XAI 의료 응용에서 우세합니까?
• RQ3 설명가능성은 신뢰와 임상의 수용성을 촉진하는 데 어떻게 사용됩니까?
• RQ4 의사들은 XAI 개발 루프에 적극적으로 참여하고 있으며, UI/UX가 이해를 어떻게 지원합니까?
• RQ5 의료 및 AI 전문가 간의 식별된 격차와 향후 협력 필요성은 무엇입니까?

주요 결과

• 모델-무관(XAI) 기법은 의료 XAI 솔루션에서 자주 사용됩니다.
• 딥 러닝 모델은 이러한 응용에서 다른 ML 모델보다 더 많이 사용됩니다.
• 설명가능성은 신뢰를 촉진하는 데 자주 사용되지만, 루프에 의사 참여는 상대적으로 제한적입니다.
• 시각적이고 대화형 사용자 인터페이스는 설명과 권고를 이해하는 데 더 유용합니다.