[论文解读] FasterRisk: Fast and Accurate Interpretable Risk Scores

Jiachang Liu, Chudi Zhong+3 more|arXiv (Cornell University)|Oct 12, 2022

Advanced Causal Inference Techniques被引用 11

一句话总结

FasterRisk 提出了一种快速、可解释的方法，通过束搜索（beam search）和‘星形射线’（star ray）舍入策略，从数据中生成高质量的风险评分。该方法高效地生成一组稀疏、整数系数的模型，损失极小，可在数分钟内实现 AUC 超过 0.85，适用于医疗保健和刑事司法领域中的实时、交互式模型设计。

ABSTRACT

Over the last century, risk scores have been the most popular form of predictive model used in healthcare and criminal justice. Risk scores are sparse linear models with integer coefficients; often these models can be memorized or placed on an index card. Typically, risk scores have been created either without data or by rounding logistic regression coefficients, but these methods do not reliably produce high-quality risk scores. Recent work used mathematical programming, which is computationally slow. We introduce an approach for efficiently producing a collection of high-quality risk scores learned from data. Specifically, our approach produces a pool of almost-optimal sparse continuous solutions, each with a different support set, using a beam-search algorithm. Each of these continuous solutions is transformed into a separate risk score through a "star ray" search, where a range of multipliers are considered before rounding the coefficients sequentially to maintain low logistic loss. Our algorithm returns all of these high-quality risk scores for the user to consider. This method completes within minutes and can be valuable in a broad variety of applications.

研究动机与目标

• 解决医疗保健和刑事司法等高风险领域长期存在的对数据驱动、高质量风险评分的需求。
• 克服传统方法（如基于专家设计或对逻辑回归进行启发式舍入）的局限性，这些方法导致性能次优。
• 开发一种可扩展、快速的算法，生成多样化的高性能风险评分，且无需依赖缓慢的数学规划求解器。
• 通过生成一组近似最优的风险评分供用户基于领域知识选择，实现交互式模型设计。
• 在保持与现实世界数据集上具有竞争力的性能的同时，维持风险评分的可解释性和易记性。

提出的方法

• 使用束搜索生成一组几乎最优的稀疏连续解，每个解具有不同的支持集。
• 对每个连续解应用‘星形射线’搜索，测试一系列乘数后，按顺序将系数舍入为整数。
• 通过为每个系数评估多个乘数值，在舍入过程中优化低逻辑损失。
• 将连续解转化为整数系数的风险评分，同时保持模型性能和稀疏性。
• 通过最大公约数（GCD）进行模型简化，以简化系数并提升可解释性。
• 支持特征转换以增强可解释性，例如将复合特征拆分为互斥类别。

实验结果

研究问题

• RQ1 我们能否比现有的数学规划方法更快地从数据中生成高质量、可解释的风险评分？
• RQ2 我们能否生成一组多样化的近似最优风险评分，在保持性能和稀疏性的同时仍具备可解释性？
• RQ3 与对逻辑回归系数进行启发式舍入相比，束搜索结合星形射线舍入是否在预测准确性上表现更优？
• RQ4 该方法能否扩展到真实世界数据集，并在数分钟内生成适用于交互式使用的模型？
• RQ5 模型简化和特征转换在不牺牲性能的前提下，能在多大程度上提升可解释性？

主要发现

• FasterRisk 在 mammo 数据集的训练集和测试集上分别实现了 AUC 0.854 和 0.855，表明其泛化能力出色。
• 该方法在标准笔记本电脑上可在数分钟内完成，支持交互式模型设计和快速迭代。
• 该算法生成了一组多样化的高质量风险评分，使用户能够根据特定领域的约束或公平性考量选择合适模型。
• 通过 GCD 进行的模型简化在不改变预测风险的前提下简化了系数，增强了记忆性和可解释性。
• 特征转换通过将模糊或重叠的条件替换为清晰的互斥类别，提升了可解释性。
• 该方法优于对 ℓ₁-正则化逻辑回归系数进行简单舍入，因其在舍入过程中偏差更小，损失最小化更优。