[논문 리뷰] Using Explainable AI to Cross-Validate Socio-economic Disparities Among Covid-19 Patient Mortality

Shi Li, Redoan Rahman외 4명|PubMed|2023. 02. 16.

Machine Learning in Healthcare참고 문헌 15인용 수 4

한 줄 요약

이 연구는 오스틴의 병원에서 수집한 익명화된 전자건강기록(EHR) 데이터를 기반으로 훈련된 XGBoost 모델에 해석가능한 인공지능(XAI) 기법—SHAP와 LIME—을 적용하여 코로나19 사망률의 사회경제적 격차를 조사한다. 연구는 의료보험 상태, 연령, 성별이 사망률 예측의 상위 예측 변수임을 확인하였으며, XAI 기법 간 일관된 특성 중요도를 보여, 모델의 해석 가능성과 건강 격차 연구에서의 활용에 대한 상호검증을 가능하게 한다.

ABSTRACT

This paper applies eXplainable Artificial Intelligence (XAI) methods to investigate the socioeconomic disparities in COVID-19 patient mortality. An Extreme Gradient Boosting (XGBoost) prediction model is built based on a de-identified Austin area hospital dataset to predict the mortality of COVID-19 patients. We apply two XAI methods, Shapley Additive exPlanations (SHAP) and Locally Interpretable Model Agnostic Explanations (LIME), to compare the global and local interpretation of feature importance. This paper demonstrates the advantages of using XAI which shows the feature importance and decisive capability. Furthermore, we use the XAI methods to cross-validate their interpretations for individual patients. The XAI models reveal that Medicare financial class, older age, and gender have high impact on the mortality prediction. We find that LIME's local interpretation does not show significant differences in feature importance comparing to SHAP, which suggests pattern confirmation. This paper demonstrates the importance of XAI methods in cross-validation of feature attributions.

연구 동기 및 목표

• 기계학습과 해석가능한 인공지능(XAI)을 활용하여 코로나19 환자 사망률의 사회경제적 격차를 조사한다.
• 다양한 XAI 기법(SHAP와 LIME) 간 특성 중요도의 일관성과 신뢰성을 평가한다.
• 다중 해석 기법을 통한 상호검증을 통해 모델 해석의 타당성을 검증한다.
• 실제 병원 데이터셋에서 사망률 결과에 영향을 주는 주요 임상적 및 사회경제적 결정요인을 규명한다.
• XAI가 임상 예측 모델에서의 건강 격차를 드러내고 검증하는 데 있어 실용성을 입증한다.

제안 방법

• 텍사스 오스틴 소재 단일 병원 시스템의 익명화된 전자건강기록(EHR) 데이터를 기반으로 XGBoost 모델을 훈련한다.
• SHAP(샤플리 추가 설명)를 사용하여 모델 예측의 글로벌 및 로컬 특성 중요도 점수를 계산한다.
• LIME(국소적으로 해석 가능한 모델에 종속되지 않는 설명)를 적용하여 개별 예측 주변에서 모델을 국소적으로 근사함으로써 로컬 해석 가능성을 확보한다.
• SHAP와 LIME의 특성 중요도 랭킹을 비교하여 일관성과 해석의 상호검증을 평가한다.
• 모델은 인구통계학적, 임상적, 사회경제적 변수를 사용하여 코로나19 환자의 입원 중 사망률을 예측한다.
• 모델의 특성 할당에 대한 강건성과 신뢰성을 확보하기 위해 XAI 해석의 상호검증을 수행한다.

실험 결과

연구 질문

• RQ1 SHAP와 LIME는 코로나19 사망률 예측에서 얼마나 일관된 특성 중요도 랭킹을 도출하는가?
• RQ2 모델의 환자 사망률 예측에 가장 크게 영향을 주는 사회경제적 및 임상적 특성들은 무엇인가?
• RQ3 XAI 기법은 건강 격차 연구에서 모델 해석을 검증하고 상호검증하는 데 어떻게 활용될 수 있는가?
• RQ4 재정적 계층(예: 메디케어)과 연령과 관련된 사망률 예측 격차는 측정 가능한가?
• RQ5 XAI 기법은 개인 환자 사례 간 건강 결과 격차 패턴을 신뢰성 있게 식별하고 확인할 수 있는가?

주요 결과

• 메디케어 재정적 계층이 사망률의 상위 예측 변수로 부각되어 결과에 있어 명백한 사회경제적 격차가 있음을 시사한다.
• 고령은 SHAP와 LIME의 해석 모두에서 사망률 예측에 영향을 주는 주요 요인로 일관되게 확인되었다.
• 성별 또한 사망률 예측에 상당한 영향을 미쳤으며, 모델 설명에서 차이가 관찰되었다.
• LIME와 SHAP는 매우 유사한 로컬 특성 중요도 랭킹을 도출하여 두 기법 간 강력한 일관성과 패턴 확인이 이루어졌음을 시사한다.
• XAI 해석의 상호검증을 통해 모델의 특성 할당에 대한 신뢰도와 임상적 관련성이 향상되었다.
• 이 연구는 XAI가 임상 예측 모델에서의 격차를 효과적으로 드러내고 검증하는 데 활용될 수 있음을 입증한다.