[论文解读] Towards Explainable Deep Learning for Credit Lending: A Case Study

Ceena Modarres, Mark Ibrahim+2 more|arXiv (Cornell University)|Nov 15, 2018

Explainable Artificial Intelligence (XAI)参考文献 10被引用 11

一句话总结

本文评估了LIME、DeepLift和Integrated Gradients在解释深度神经网络信用风险预测结果中的表现，以逻辑回归权重作为真实基准。结果表明，Integrated Gradients与全局特征重要性最为接近，但归因结果对参考点的选择高度敏感，凸显了在金融AI可解释性中采用上下文感知基线的必要性。

ABSTRACT

Deep learning adoption in the financial services industry has been limited due to a lack of model interpretability. However, several techniques have been proposed to explain predictions made by a neural network. We provide an initial investigation into these techniques for the assessment of credit risk with neural networks.

研究动机与目标

• 评估归因方法（LIME、DeepLift、Integrated Gradients）在解释信用贷款深度学习预测结果中的可信度与可靠性。
• 评估这些方法是否能生成与已建立的、可解释的模型（如逻辑回归）一致的解释，后者在信用风险评估中被用作真实基准。
• 研究在信用风险建模中，归因解释对参考（基线）向量选择的敏感性。
• 探索在受监管的金融应用中提升可解释AI的可信度、可靠性及用户理解能力的未来研究方向。

提出的方法

• 在FICO可解释机器学习数据集上训练一个前馈神经网络，以预测90天逾期（Y ∈ {0,1}）。
• 在同一数据集上使用逻辑回归推导全局特征重要性权重，将其作为比较的真实基准。
• 应用LIME、DeepLift和Integrated Gradients，为单个信贷申请生成局部归因解释。
• 通过顶部特征的一致性以及局部归因与全局逻辑回归权重之间的相似性度量（L2范数和Spearman等级距离）来评估归因质量。
• 对每位申请人，在K次迭代中改变参考点（r），以评估不确定性，使用标准差和香农熵作为度量指标。
• 探索基于申请人的参考点（如决策边界、平均值、零信用历史）并评估其对归因稳定性和可解释性的影响。

实验结果

研究问题

• RQ1 LIME、DeepLift和Integrated Gradients在信用风险预测中与逻辑回归的全局特征重要性有多一致？
• RQ2 在信贷贷款应用中，不同参考点下归因方法的一致性如何？
• RQ3 参考点选择对模型解释的可靠性与不确定性有何影响？
• RQ4 个性化或上下文相关的参考点能否提升基于归因的解释的可信度与可解释性？
• RQ5 在信用风险决策中，生成可操作且直观的解释，最有效的参考点是什么？

主要发现

• Integrated Gradients生成的归因结果与逻辑回归的全局特征权重最为接近，无论是在特征一致性（7/7个顶部特征）还是在L2范数与等级距离度量上均表现最优。
• LIME仅识别出逻辑回归基准中前七名特征中的两个，表明尽管L2距离较小，但其覆盖范围有限。
• 归因结果对参考点的选择极为敏感，参考点的变化导致的解释变化在量级上可与申请人实际档案变化带来的影响相媲美。
• 将参考点限制在决策边界上最相似的十个候选者，显著降低了解释的离散程度（标准差更低）并提高了熵值，表明解释的可靠性得到提升。
• 直观的参考点（如平均申请人或无信用历史的申请人）被模型评估为高风险，削弱了其作为中性基线的适用性。
• 基于决策边界上相似申请人的个性化参考点可降低不确定性，可能增强解释的可靠性，提示未来可解释AI在信用AI中向更上下文感知的方向发展。