[논문 리뷰] Explainable Artificial Intelligence Methods in Combating Pandemics: A Systematic Review

Felipe Giuste, Wenqi Shi외 7명|arXiv (Cornell University)|2021. 12. 23.

Artificial Intelligence in Healthcare and Education인용 수 7

한 줄 요약

이 체계적 리뷰는 코로나19 패닉 기간 동안 인공지능 기반 진단 및 의사결정 지원 시스템의 투명성, 신뢰도, 임상 영향력을 향상시키기 위해 사용된 설명 가능 인공지능(XAI) 기법을 평가한다. 의료 영상 및 전자 건강 기록을 통해 XAI 기법을 분석함으로써, 설명 가능성은 모델의 해석 가능성 향상, 임상의의 신뢰도 증대, 허상적 상관관계 탐지 지원을 통해 최종적으로 의료 분야에서의 인공지능 실용성 향상에 기여한다.

ABSTRACT

Despite the myriad peer-reviewed papers demonstrating novel Artificial Intelligence (AI)-based solutions to COVID-19 challenges during the pandemic, few have made significant clinical impact. The impact of artificial intelligence during the COVID-19 pandemic was greatly limited by lack of model transparency. This systematic review examines the use of Explainable Artificial Intelligence (XAI) during the pandemic and how its use could overcome barriers to real-world success. We find that successful use of XAI can improve model performance, instill trust in the end-user, and provide the value needed to affect user decision-making. We introduce the reader to common XAI techniques, their utility, and specific examples of their application. Evaluation of XAI results is also discussed as an important step to maximize the value of AI-based clinical decision support systems. We illustrate the classical, modern, and potential future trends of XAI to elucidate the evolution of novel XAI techniques. Finally, we provide a checklist of suggestions during the experimental design process supported by recent publications. Common challenges during the implementation of AI solutions are also addressed with specific examples of potential solutions. We hope this review may serve as a guide to improve the clinical impact of future AI-based solutions.

연구 동기 및 목표

• 코로나19 패닉에 대응하기 위한 설명 가능 인공지능(XAI) 기법의 적용을 식별하고 분석하기 위해.
• XAI가 임상 인공지능 시스템에서 모델의 투명성, 임상의의 신뢰도 및 의사결정 과정을 어떻게 향상시키는지 평가하기 위해.
• 실제 임상 적용을 증진하기 위해 XAI를 AI 개발 워크플로우에 통합하기 위한 체계적인 체크리스트 제공을 위해.
• 모델 편향 및 해석 불가능성과 같은 임상 인공지능 구현의 일반적 과제를 실용적인 해결책과 함께 다루기 위해.
• 특히 위험도 분류 및 패닉 후 치료 분야에서의 미래의 XAI 방향을 요약하기 위해.

제안 방법

• PRISMA 지침을 사용하여 패닉 관련 인공지능 응용 분야에서의 XAI에 관한 동료 심사 논문을 식별하기 위해 체계적 문헌 리뷰를 수행하였다.
• XAI 기법을 사후 설명 방법(예: LIME, Grad-CAM, SHAP)과 내재적으로 해석 가능한 모델(예: 결정 트리, 로지스틱 회귀)으로 분류하였다.
• 주요 임상 데이터 소스인 의료 영상(X-ray, CT), 전자 건강 기록(EHRs), 임상 특징에 대한 XAI 응용을 매핑하였다.
• 사람이 개입하는 검증(예: 인간 기반 검증)과 정량적 지표(예: 충실도, 희소성, 신뢰도)를 사용하여 XAI 성능을 평가하였다.
• 초기 단계 AI 개발에 적합한 설계 체크리스트로 통합된 통찰을 요약하였으며, 데이터 품질, 특징 관련성, 설명 평가를 강조하였다.
• 딥 러닝 잠재 공간을 활용한 클러스터링 및 활성도 맵를 통한 영상 분할 설명 등 XAI의 신규 추세를 검토하였다.

실험 결과

연구 질문

• RQ1 팬데믹 기간 동안 코로나19 검출 및 위험도 예측을 위한 AI 모델에서 XAI 기법은 어떻게 적용되었는가?
• RQ2 비해석 가능한 AI 모델을 임상 환경에 구현할 때 발생하는 주요 과제는 무엇이며, XAI는 이를 어떻게 완화하는가?
• RQ3 XAI 기법은 AI 기반 임상 의사결정 지원 시스템에서 임상의의 신뢰도 및 의사결정 과정을 얼마나 향상시키는가?
• RQ4 의료 분야에서 XAI 설명의 품질과 신뢰성을 평가하기 위한 평가 프레임워크는 무엇이 있는가?
• RQ5 AI 모델 개발의 초도 단계부터 XAI를 통합하는 데 도움이 되는 설계 원칙과 체크리스트는 무엇인가?

주요 결과

• LIME, SHAP, Grad-CAM 등의 XAI 기법은 모델의 투명성 향상에 기여하였으며, 임상의가 임상 지식과 일치하는지 모델 결정을 검증할 수 있도록 하였다.
• 해석 가능 기능을 갖춘 모델은 블랙박스 모델과 성능가능성이 유사하더라도 임상 워크플로우에서 더 많이 신뢰되고 수용될 가능성이 높았다.
• XAI를 통해 허상적 상관관계(예: 병변의 병리학적 원인이 아닌 환자의 연령 또는 스캐너 유형에 대한 모델 의존성)를 탐지할 수 있었으며, 이는 모델의 강건성 향상에 기여하였다.
• 충실도, 희소성 등의 정량적 지표와 함께 인간 기반 검증과 같은 정성적 지표를 사용하여 XAI 결과를 평가하는 것이 설명의 신뢰성과 임상적 관련성을 확보하기 위해 필수적이었다.
• 초기 AI 개발 단계에서 XAI를 통합함으로써 임상 수요 및 규제 요건과의 더 나은 일치가 이뤄졌다.
• 데이터 품질, 특징 선택, 설명 평가, 편향 탐지 등을 다루는 종합적인 XAI 통합 체크리스트를 개발하여 일반적인 함정을 방지하였다.