[论文解读] An Interpretable Model with Globally Consistent Explanations for Credit Risk
本论文提出一个全球可解释的两层加性风险模型用于信用违约预测，具有单调性约束、子量表可解释性，以及 SetCoverExplanation 用于一致的基于规则的摘要，并配有一个交互式可视化工具。
We propose a possible solution to a public challenge posed by the Fair Isaac Corporation (FICO), which is to provide an explainable model for credit risk assessment. Rather than present a black box model and explain it afterwards, we provide a globally interpretable model that is as accurate as other neural networks. Our "two-layer additive risk model" is decomposable into subscales, where each node in the second layer represents a meaningful subscale, and all of the nonlinearities are transparent. We provide three types of explanations that are simpler than, but consistent with, the global model. One of these explanation methods involves solving a minimum set cover problem to find high-support globally-consistent explanations. We present a new online visualization tool to allow users to explore the global model and its explanations.
研究动机与目标
- 提供一个全球可解释的替代黑箱信用风险模型的方案，同时不牺牲准确性。
- 将特征分解为有意义的子量表，以实现可解释性和可视化。
- 确保特征的单调性约束，以反映信用风险领域的知识。
- 开发与全局模型一致的基于规则的解释和与案例相关的可视化。
- 提供一个交互式工具，以探索模型、解释和子量表贡献。
提出的方法
- 提出一个两层加性风险模型（ARM），其中特征分组为子量表，并通过单调分段常数函数进行变换。
- 对步函数系数施加非负约束，以确保单调关系。
- 用sigmoid变换计算子量表分数，然后线性组合并通过最终的sigmoid得到违约概率。
- 独立对子量表进行带正则化的训练，或与全局目标共同训练，保持稀疏性和单调性。
- 提供三种解释类型：(i) 通过子量表贡献得到的变量重要性，(ii) SetCoverExplanation 以生成全球一致的合取规则，(iii) 通过寻找相似历史案例的基于案例的解释。
- 开发一个在线可视化工具，用于显示完整模型、子量表贡献和解释。
实验结果
研究问题
- RQ1全球可解释的模型在保持透明度的同时，能否达到与神经网络在信用风险预测上的相近准确性？
- RQ2如何设计特征子量表，使之在风险因素方面具有意义、稀疏且单调？
- RQ3是否可以使用基于集合覆盖的规则使解释在全球范围内一致，而不牺牲保真度？
- RQ4交互式可视化在帮助用户探索子量表贡献和解释方面的有效性如何？
- RQ5在信用风险数据中，SetCoverExplanation的规则稀疏性与覆盖度之间的权衡是什么？
主要发现
- 两层加性风险模型在保持可解释性的同时，达到与其他机器学习方法相当的准确性。
- 特征从23个原始特征被分成10个子量表，每个子量表产生一个具有意义的子量表风险分数。
- 通过使用带非负系数的一边区间步函数来实施单调性约束，确保受限特征的单调关系。
- SetCoverExplanation 生成全局一致的高支持度规则，概括模型行为，并可描述预测中的广泛模式。
- 一个交互式可视化工具展示完整计算、子量表贡献和基于案例的解释，帮助建立信任和理解。
- 该方法在不依赖不透明的黑箱模型的前提下，提供可解释的全局解释和局部的基于案例的洞见。
更好的研究，从现在开始
从论文设计到论文写作，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。