[论文解读] Using Explainable AI to Cross-Validate Socio-economic Disparities Among Covid-19 Patient Mortality

Shi Li, Redoan Rahman+4 more|PubMed|Feb 16, 2023

Machine Learning in Healthcare参考文献 15被引用 4

一句话总结

本研究使用可解释人工智能（XAI）方法——SHAP与LIME——对在奥斯汀医院去识别化的电子健康记录（EHR）数据上训练的XGBoost模型进行分析，以探究新冠肺炎死亡率中的社会经济差异。结果证实，Medicare参保状态、年龄和性别是死亡率的首要预测因子，且在不同XAI方法中特征重要性表现一致，验证了这些方法在交叉验证模型可解释性及健康差异研究中的适用性。

ABSTRACT

This paper applies eXplainable Artificial Intelligence (XAI) methods to investigate the socioeconomic disparities in COVID-19 patient mortality. An Extreme Gradient Boosting (XGBoost) prediction model is built based on a de-identified Austin area hospital dataset to predict the mortality of COVID-19 patients. We apply two XAI methods, Shapley Additive exPlanations (SHAP) and Locally Interpretable Model Agnostic Explanations (LIME), to compare the global and local interpretation of feature importance. This paper demonstrates the advantages of using XAI which shows the feature importance and decisive capability. Furthermore, we use the XAI methods to cross-validate their interpretations for individual patients. The XAI models reveal that Medicare financial class, older age, and gender have high impact on the mortality prediction. We find that LIME's local interpretation does not show significant differences in feature importance comparing to SHAP, which suggests pattern confirmation. This paper demonstrates the importance of XAI methods in cross-validation of feature attributions.

研究动机与目标

• 利用机器学习与可解释人工智能（XAI）探究新冠肺炎患者死亡率中的社会经济差异。
• 评估多种XAI方法（SHAP与LIME）在特征重要性方面的一致性与可靠性。
• 通过多种可解释性技术的交叉验证，验证模型解释的可靠性。
• 识别影响真实医院数据集中死亡率结果的关键临床与社会决定因素。
• 展示XAI在揭示与验证临床预测模型中健康差异方面的实用性。

提出的方法

• 在德克萨斯州奥斯汀单一医院系统提供的去识别化电子健康记录（EHR）数据上训练XGBoost模型。
• 使用SHAP（Shapley加性解释）计算模型预测的全局与局部特征重要性得分。
• 应用LIME（局部可解释模型无关解释）通过在单个预测周围局部近似模型，生成局部可解释性。
• 比较SHAP与LIME的特征重要性排名，以评估一致性并交叉验证解释结果。
• 利用人口统计学、临床及社会经济变量，预测新冠肺炎患者的院内死亡率。
• 通过XAI解释的交叉验证，确保特征归因的稳健性与可靠性。

实验结果

研究问题

• RQ1 SHAP与LIME在预测新冠肺炎死亡率时，其特征重要性排名在多大程度上保持一致？
• RQ2 哪些社会经济与临床特征对模型预测患者死亡率具有最显著影响？
• RQ3 XAI方法如何用于验证与交叉验证健康差异研究中的模型解释？
• RQ4 是否存在与经济阶层（如Medicare）和年龄相关的可测量死亡率预测差异？
• RQ5 XAI方法能否可靠地识别并确认个体患者病例中健康结局差异的模式？

主要发现

• Medicare参保状态被识别为死亡率的首要预测因子，表明结果中存在显著的社会经济差异。
• 高龄在SHAP与LIME的解释中均被一致认定为影响死亡率预测的主要因素。
• 性别在死亡率预测中也表现出显著影响，且在模型解释中观察到差异。
• LIME与SHAP在局部特征重要性排名上高度一致，表明两种方法间具有强一致性与模式确认。
• XAI解释的交叉验证增强了对模型特征归因及其临床相关性的信心。
• 本研究证明，XAI可有效用于验证与揭示临床预测模型中的差异。