[论文解读] Machine Learning Model Interpretability for Precision Medicine

Gajendra J. Katuwal, Robert F. Chen|arXiv (Cornell University)|Oct 28, 2016

Explainable Artificial Intelligence (XAI)参考文献 2被引用 61

一句话总结

本文提出使用模型无关解释（SHAP）以增强复杂机器学习模型在精准医学中的可解释性。基于MIMIC-II数据集，作者在预测ICU死亡率方面实现了80%的平衡准确率，同时提供个体层面的特征重要性，使临床医生能够透明地理解模型决策。

ABSTRACT

Interpretability of machine learning models is critical for data-driven precision medicine efforts. However, highly predictive models are generally complex and are difficult to interpret. Here using Model-Agnostic Explanations algorithm, we show that complex models such as random forest can be made interpretable. Using MIMIC-II dataset, we successfully predicted ICU mortality with 80% balanced accuracy and were also were able to interpret the relative effect of the features on prediction at individual level.

研究动机与目标

• 提升用于精准医学的复杂机器学习模型的可解释性。
• 使临床医生能够理解个体患者层面上各特征对模型预测的贡献。
• 证明高性能模型可在不牺牲预测准确率的前提下实现可解释性。
• 在真实世界危重症护理数据集（MIMIC-II）上验证该方法。
• 弥合高预测性能与临床对人工智能驱动决策支持的信任之间的差距。

提出的方法

• 作者将模型无关解释（SHAP）框架应用于已训练的随机森林模型的预测解释。
• 计算SHAP值以量化每个临床特征对每位个体患者预测的贡献。
• 该方法具有模型无关性，可解释任何黑箱模型，包括随机森林等集成方法。
• 使用MIMIC-II危重症护理数据集，其中包含生命体征、实验室数值和共病等临床特征。
• 模型训练目标为预测ICU死亡率，同时注重准确率与可解释性。
• 在全局和个体层面可视化特征重要性，以支持临床洞察。

实验结果

研究问题

• RQ1 能否在不损害性能的前提下，使用于精准医学的复杂高性能机器学习模型具备可解释性？
• RQ2 在个体患者层面上，各临床特征对ICU死亡率预测的相对贡献如何？
• RQ3 如何系统性地将模型可解释性应用于临床决策支持系统？
• RQ4 基于SHAP的解释能否增强重症监护环境中预测模型的信任度与临床实用性？
• RQ5 在保持足够可解释性以支持临床部署的前提下，可实现的预测准确率水平是什么？

主要发现

• 随机森林模型在MIMIC-II数据集上预测ICU死亡率的平衡准确率达到80%。
• 基于SHAP的解释成功识别出对个体患者预测最具影响力的临床特征。
• 该方法实现了对模型决策的个体层面解释，揭示了患者特异性的特征影响。
• 可解释性框架可应用于黑箱模型，无需修改模型架构。
• 结果表明，通过事后解释技术，高性能模型可实现透明化并具备临床可操作性。
• 该方法通过提供可追溯的、基于特征层面的模型预测洞察，支持临床决策。