[논문 리뷰] An Empirical Comparison of Explainable Artificial Intelligence Methods for Clinical Data: A Case Study on Traumatic Brain Injury

Amin Nayebi, Sindhu Tipirneni외 3명|arXiv (Cornell University)|2022. 08. 13.

Artificial Intelligence in Healthcare and Education인용 수 5

한 줄 요약

이 연구는 외상성 뇌손상(TBI)의 임상 예측 모델에 대해 표본화된 데이터와 시계열 생리학적 데이터를 사용하여 SHAP, LIME, Grad-CAM, LRP, Anchors, TreeInterpreter의 여섯 가지 해석 가능한 인공지능(XAI) 방법을 평가한다. SHAP는 가장 높은 충실도와 안정성을 보였고, Anchors는 가장 높은 이해도를 제공했지만 표본화된 데이터에 한정되어 있어 임상 적용에서의 상호 보완적 특성을 드러낸다.

ABSTRACT

A longstanding challenge surrounding deep learning algorithms is unpacking and understanding how they make their decisions. Explainable Artificial Intelligence (XAI) offers methods to provide explanations of internal functions of algorithms and reasons behind their decisions in ways that are interpretable and understandable to human users. . Numerous XAI approaches have been developed thus far, and a comparative analysis of these strategies seems necessary to discern their relevance to clinical prediction models. To this end, we first implemented two prediction models for short- and long-term outcomes of traumatic brain injury (TBI) utilizing structured tabular as well as time-series physiologic data, respectively. Six different interpretation techniques were used to describe both prediction models at the local and global levels. We then performed a critical analysis of merits and drawbacks of each strategy, highlighting the implications for researchers who are interested in applying these methodologies. The implemented methods were compared to one another in terms of several XAI characteristics such as understandability, fidelity, and stability. Our findings show that SHAP is the most stable with the highest fidelity but falls short of understandability. Anchors, on the other hand, is the most understandable approach, but it is only applicable to tabular data and not time series data.

연구 동기 및 목표

• 외상성 뇌손상(TBI)의 임상적 의사결정을 배경으로 다수의 XAI 방법을 평가하고 비교하는 것.
• 구조화된 표본화된 데이터와 시계열 생리학적 데이터 양쪽 모두에서 XAI 기법의 성능을 평가하는 것.
• 실제 임상 환경에서 이해도, 충실도, 안정성과 같은 핵심 XAI 특성 간의 상호 보완적 특성을 규명하는 것.
• 데이터 유형과 해석 가능성 요구사항에 따라 연구자들이 적절한 XAI 방법을 선택할 수 있도록 안내하는 것.

제안 방법

• 두 가지 임상 예측 모델을 개발하였으며, 하나는 표본화된 데이터를 사용한 단기 TBI 예후를 위한 것이고, 다른 하나는 시계열 생리학적 데이터를 사용한 장기 예후를 위한 것이다.
• SHAP, LIME, Grad-CAM, LRP, Anchors, TreeInterpreter의 여섯 가지 XAI 방법을 지역적 및 글로벌 수준에서 두 모델의 해석에 적용하였다.
• 충실도(설명이 모델 행동을 얼마나 잘 반영하는지), 안정성(소규모 입력 변형에 대한 설명의 일관성), 이해도(사용자에게 명확한 설명) 등의 지표를 사용해 해석 가능성의 품질을 평가하였다.
• 모델 독립형 및 모델 특정형 방법을 분석하였으며, 다양한 데이터 모odalities에 대한 적용 가능성을 중점적으로 고려했다.
• 표준화된 평가 기준을 사용하여 여섯 가지 XAI 기법 간에 정량적 및 정성적 방식으로 설명을 비교하였다.
• 연구 결과의 실용성과 관련성을 확보하기 위해 실제 임상 TBI 데이터셋을 사용하였다.

실험 결과

연구 질문

• RQ1 표본화된 데이터와 시계열 임상 데이터 양쪽 모두에서 모델 예측을 가장 충실하게 설명할 수 있는 XAI 방법은 무엇인가?
• RQ2 다양한 XAI 방법이 임상 예측 모델에 적용되었을 때 안정성과 일관성 측면에서 어떻게 비교될 수 있는가?
• RQ3 의료 환경에서 XAI 기법 간의 이해도와 기술적 성능(예: 충실도) 간의 상호 보완적 특성은 어떠한가?
• RQ4 XAI 방법이 시계열 생리학적 데이터에 얼마나 적용 가능한가? 어떤 방법들은 표본화된 입력에 한정되어 있는가?
• RQ5 XAI 기법의 해석 가능성 특성이 임상 의사결정 지원 시스템에 적합한지 여부에 어떻게 영향을 미치는가?

주요 결과

• SHAP는 표본화된 데이터 및 시계열 모델 양쪽에서 가장 높은 충실도와 안정성을 보였으며, 신뢰할 수 있고 일관된 설명 생성 능력을 입증하였다.
• Anchors는 특히 표본화된 데이터에서 가장 이해하기 쉬운 설명을 제공했지만, 구조적 제약으로 인해 시계열 데이터에는 적용되지 않았다.
• LIME와 Grad-CAM는 중간 수준의 충실도를 보였지만 안정성은 낮아, 소규모 입력 변형에 대해 설명이 크게 변동하는 경향을 보였다.
• LRP와 TreeInterpreter는 성능이 혼합되어 있었으며, LRP는 딥 모델에서는 높은 충실도를 보였지만 이해도가 낮았고, TreeInterpreter는 트리 기반 모델에 국한되어 있었다.
• 이 연구는 어떤 한 XAI 방법도 모든 해석 가능성 차원에서 뛰어나지 못함을 확인하였으며, 임상적 요구사항과 데이터 특성에 따라 방법을 선택하는 것이 중요함을 강조하였다.
• 시계열 데이터는 XAI 방법에 대해 고유한 과제를 안겼으며, SHAP와 LIME만 상당한 성능을 보였고, Anchors와 LRP는 적용 불가능하였다.