[论文解读] survex: an R package for explaining machine learning survival models

Mikołaj Spytek, Mateusz Krzyziński+4 more|arXiv (Cornell University)|Aug 30, 2023

Explainable Artificial Intelligence (XAI)被引用 4

一句话总结

survex R 包引入了一个全面的框架，用于使用可解释人工智能（XAI）技术解释机器学习生存模型，通过 SurvSHAP(t) 和 SurvLIME 等方法实现局部和全局可解释性。该框架支持模型诊断、变量重要性分析和可视化，提升了生物医学与医疗保健应用中的透明度与可信度。

ABSTRACT

Due to their flexibility and superior performance, machine learning models frequently complement and outperform traditional statistical survival models. However, their widespread adoption is hindered by a lack of user-friendly tools to explain their internal operations and prediction rationales. To tackle this issue, we introduce the survex R package, which provides a cohesive framework for explaining any survival model by applying explainable artificial intelligence techniques. The capabilities of the proposed software encompass understanding and diagnosing survival models, which can lead to their improvement. By revealing insights into the decision-making process, such as variable effects and importances, survex enables the assessment of model reliability and the detection of biases. Thus, transparency and responsibility may be promoted in sensitive areas, such as biomedical research and healthcare applications.

研究动机与目标

• 解决在生物医学和医疗保健背景下缺乏易于使用的工具来解释黑箱机器学习生存模型的问题。
• 提供一个统一且可扩展的框架，用于解释生存分析中个体预测和全局模型行为。
• 集成先进的 XAI 方法——如 SurvSHAP(t) 和 SurvLIME——并针对具有删失的生存模型进行专门适配。
• 通过残差分析和性能评估支持模型验证与偏差检测，实现模型诊断。
• 通过揭示变量效应、重要性及交互模式，促进生存模型的透明化与负责任使用。

提出的方法

• 实现一个模块化接口，支持 R 中多种生存模型包，包括随机生存森林、Cox 模型以及通过 survivalmodels 实现的深度学习模型。
• 应用 SurvSHAP(t) 计算生存函数预测的时间依赖型 SHAP 值，实现在不同时间点的变量贡献分析。
• 使用 SurvLIME 在个体预测周围拟合局部代理 Cox 模型，提取可解释的系数作为解释。
• 生成部分依赖图和累积局部效应图，可视化变量对生存预测的边际影响。
• 支持二维轮廓图，以检测变量对对模型输出的成对交互效应。
• 集成诊断工具，如鞅残差、偏差残差和 Cox-Snell 残差，用于评估模型质量与校准性。

实验结果

研究问题

• RQ1 如何通过专为时间至事件和删失数据特性设计的 XAI 技术有效解释机器学习生存模型？
• RQ2 SurvSHAP(t) 和 SurvLIME 在多种数据集上对个体生存预测提供的解释在多大程度上可靠且可解释？
• RQ3 如部分依赖图和累积局部效应图等全局模型解释能否揭示变量影响和交互效应的有意义模式？
• RQ4 残差分析等诊断工具如何提升生存建模中模型校准性和可靠性的评估？
• RQ5 survex 框架在多大程度上能增强临床和生物医学应用中生存模型的可信度与透明度？

主要发现

• survex 包成功实现了时间感知的 XAI 方法，如 SurvSHAP(t) 和 SurvLIME，能够对具有删失的生存模型预测提供可解释的说明。
• 通过鞅残差、偏差残差和 Cox-Snell 残差进行的模型诊断，实现了对模型校准性和拟合优度的稳健评估。
• 部分依赖图和二维轮廓图揭示了变量对生存结果的非线性效应与交互模式，有助于理解与优化模型。
• SurvSHAP(t) 的蜂群图与依赖图直观地展示了变量在时间维度上的贡献，显著提升了临床医生与研究人员的可解释性。
• survex 已成功应用于真实世界生物医学研究，包括胰腺癌风险预测与住院时长建模，展现出实际应用价值。
• 该包支持广泛的生存模型，并具备扩展性，可集成未来方法，如反事实解释与竞争风险模型。