[논문 리뷰] Explainable AI for clinical and remote health applications: a survey on tabular and time series data

Flavio Di Martino, Franca Delmastro|arXiv (Cornell University)|2022. 09. 14.

Explainable Artificial Intelligence (XAI)인용 수 10

한 줄 요약

이 종합적 리뷰는 임상 및 원격 건강 응용 분야에서 표본화된 데이터와 시계열 데이터를 위한 설명 가능한 인공지능(XAI) 기법에 대해 포괄적인 분석을 제공하며, 임상적 유효성, 일관성, 인간 중심 평가와 같은 핵심 평가 기준을 규명한다. 이는 시각 및 자연어 처리(NLP) 분야에 비해 이러한 데이터 유형에 대한 XAI 연구의 격차를 드러내며, 신뢰할 수 있고 구현 가능한 의료 분야 AI를 가능하게 하기 위해 방법론적 향상과 표준화된 평가를 촉구한다.

ABSTRACT

Nowadays Artificial Intelligence (AI) has become a fundamental component of healthcare applications, both clinical and remote, but the best performing AI systems are often too complex to be self-explaining. Explainable AI (XAI) techniques are defined to unveil the reasoning behind the system's predictions and decisions, and they become even more critical when dealing with sensitive and personal health data. It is worth noting that XAI has not gathered the same attention across different research areas and data types, especially in healthcare. In particular, many clinical and remote health applications are based on tabular and time series data, respectively, and XAI is not commonly analysed on these data types, while computer vision and Natural Language Processing (NLP) are the reference applications. To provide an overview of XAI methods that are most suitable for tabular and time series data in the healthcare domain, this paper provides a review of the literature in the last 5 years, illustrating the type of generated explanations and the efforts provided to evaluate their relevance and quality. Specifically, we identify clinical validation, consistency assessment, objective and standardised quality evaluation, and human-centered quality assessment as key features to ensure effective explanations for the end users. Finally, we highlight the main research challenges in the field as well as the limitations of existing XAI methods.

연구 동기 및 목표

• 실제 의료 시스템에서 널리 사용되고 있음에도 불구하고, 표본화된 데이터와 시계열 데이터에 대한 설명 가능한 인공지능(XAI)에 대한 관심이 부족한 문제를 해결하기 위해.
• 표본화된 데이터와 시계열 데이터에 적합한 XAI 기법을 식별하고 평가하기 위해. 이는 이미지 및 텍스트 데이터와는 구조적·복잡성 측면에서 상당히 다름.
• 다양한 최종 사용자(예: 환자, 의료진 등)의 신뢰성과 품질을 확보하기 위해 임상적 유효성, 일관성 평가, 인간 중심 평가의 중요성을 강조하기 위해.
• 기존 XAI 기법들이 건강 데이터의 특징 상호작용, 시간적 상관관계, 시공간 패턴을 다루는 데에 부적절한 이유를 밝히기 위해.
• 기술적 XAI 성능과 실제 임상 적용 간 격차를 메우기 위해 표준화되고 객관적이며 임상적으로 관련성이 있는 평가 프레임워크를 마련하기 위해.

제안 방법

• 최근 5년 간의 문헌을 대상으로 표본화된 데이터와 시계열 데이터를 활용한 임상 및 원격 건강 응용 분야에서의 XAI 응용에 중점을 둔 체계적 리뷰를 수행하였다.
• 표본화된 데이터에 적합한 기법(예: 특징 중요도, LIME, SHAP)과 시계열 데이터에 적합한 기법(예: 주목적 맵, NLP 및 CV에서 유도된 기반 기반의 기법)에 따라 XAI 기법을 분류하였다.
• 네 가지 핵심 관점에서 XAI 기법을 평가하였다: 임상적 유효성, 다수의 XAI 기법 간 일관성, 객관적이고 표준화된 품질 평가, 인간 중심 평가.
• 시각 및 NLP 기반 XAI 기법을 건강 데이터에 적용할 때의 과제를 분석하였으며, 특히 시간적 종속성, 다변량 상관관계, 혼합된 데이터 유형을 고려하지 못하는 점을 지적하였다.
• 도메인 전문 지식과 사용자 요구를 통합한 XAI 품질 평가 프레임워크를 제안하였으며, 특히 환자나 원격 모니터링자와 같은 비전문 사용자에게 특화된 내용을 포함하였다.
• 의료 분야에서 XAI의 윤리적 영향, 즉 공정성, 책임성, 환자 중심 의사결정과의 연계를 논의하였으며, 설명 가능성과 윤리적 AI 원칙 간의 연관성을 제시하였다.

실험 결과

연구 질문

• RQ1 임상 및 원격 건강 응용 분야에서 표본화된 데이터와 시계열 데이터에 적합한 XAI 기법은 무엇이며, 컴퓨터 비전 및 NLP에서 사용되는 기법과 어떻게 비교될 수 있는가?
• RQ2 의료 분야에서 XAI 설명의 품질과 신뢰성을 보장하기 위해 필요한 핵심 평가 기준(예: 임상적 유효성, 일관성, 인간 중심 평가)은 무엇인가?
• RQ3 기존 XAI 기법들이 표본화된 데이터와 시계열 건강 데이터에 대해 부적절한 이유는 무엇이며, 이러한 데이터 유형이 설명 가능성에 대해 유독 어떤 도전 과제를 야기하는가?
• RQ4 XAI는 원격 모니터링 및 의사결정 지원 시스템에서 공정성, 책임성, 환자 자율성과 같은 윤리적 AI 원칙에 어떻게 기여할 수 있는가?
• RQ5 실제 임상 및 원격 건강 환경에서 XAI를 구현하는 데 있어 주요 장애 요인는 무엇이며, 이를 극복하기 위해 어떤 개선이 필요할까?

주요 결과

• 전자건강기록(EHR)과 원격 모니터링 시스템에서 널리 사용되고 있음에도 불구하고, 의료 분야에서 표본화된 데이터와 시계열 데이터에 대한 XAI 기법 연구는 컴퓨터 비전 및 NLP에 비해 다소 미흡한 편이다.
• 많은 기존 XAI 기법은 복잡한 특징 상호작용과 혼합된 데이터 유형(연속형 및 이산형)을 잘 다루지 못하여 표본화된 데이터에 적합하지 않다. 이는 시각 및 NLP 기반 접근 방식이 잘 해결하지 못하는 문제이다.
• 시계열 데이터는 반복적인 시공간 패턴과 다변량 상관관계 등의 고유한 과제를 안고 있으며, 이는 다른 분야에서 파생된 XAI 기법에서 종종 간과된다.
• 임상적 유효성은 XAI 평가에서 필수적이지만 자주 생략되는 구성 요소이며, 이는 설명이 의학 지식과 일치하고 임상적 신뢰도를 향상시키기 때문이다.
• 여러 XAI 기법 간 일관성 평가는 모델 신뢰성에 대한 초보적 통찰을 제공할 수 있으나, 내성적 민감도 분석이 추가로 필요하여 강건성을 더욱 정밀하게 평가할 수 있다.
• 비전문 사용자(예: 환자)의 사용성과 이해 가능성 등을 포함한 인간 중심 평가는 필수적이지만, 현재 의료 분야의 XAI 연구에서 자주 간과되고 있다.