[论文解读] A Holistic Approach to Interpretability in Financial Lending: Models, Visualizations, and Summary-Explanations

Chaofan Chen, Kangcheng Lin+4 more|arXiv (Cornell University)|Jun 4, 2021

Explainable Artificial Intelligence (XAI)参考文献 28被引用 11

一句话总结

本文提出了一种整体性、透明的框架，用于可解释的金融贷款决策，采用双层可加风险模型，具备全局可解释性，结合交互式可视化和多种解释类型——基于案例的解释、特征重要性解释和摘要解释。该方法在保持完全透明的同时实现了高预测准确性，在可解释性方面优于黑箱模型，且未牺牲性能。

ABSTRACT

Lending decisions are usually made with proprietary models that provide minimally acceptable explanations to users. In a future world without such secrecy, what decision support tools would one want to use for justified lending decisions? This question is timely, since the economy has dramatically shifted due to a pandemic, and a massive number of new loans will be necessary in the short term. We propose a framework for such decisions, including a globally interpretable machine learning model, an interactive visualization of it, and several types of summaries and explanations for any given decision. The machine learning model is a two-layer additive risk model, which resembles a two-layer neural network, but is decomposable into subscales. In this model, each node in the first (hidden) layer represents a meaningful subscale model, and all of the nonlinearities are transparent. Our online visualization tool allows exploration of this model, showing precisely how it came to its conclusion. We provide three types of explanations that are simpler than, but consistent with, the global model: case-based reasoning explanations that use neighboring past cases, a set of features that were the most important for the model's prediction, and summary-explanations that provide a customized sparse explanation for any particular lending decision made by the model. Our framework earned the FICO recognition award for the Explainable Machine Learning Challenge, which was the first public challenge in the domain of explainable machine learning.

研究动机与目标

• 解决当前金融贷款中使用的专有信用评分模型缺乏透明度和一致性的问题。
• 开发一种决策支持系统，实现贷款决策的完全可解释性，而无需依赖事后解释。
• 构建一个全局可解释的机器学习模型，保留有意义的子量表以及特征与风险之间的单调关系。
• 提供多种一致的解释类型——基于案例的解释、基于特征的解释和摘要解释——与全局模型的逻辑保持一致。
• 证明可解释模型可以实现与黑箱模型相当的性能，挑战了可解释性必然导致准确率损失的假设。

提出的方法

• 设计一个双层可加风险模型，将其分解为有意义的子量表，每个子量表代表一组相关金融特征，并具备可解释的非线性关系。
• 采用全局可解释的结构，确保所有模型组件透明且可计算，从而保证局部解释与全局逻辑的一致性。
• 实现一个交互式在线可视化工具，显示完整的模型计算过程，并突出显示关键贡献特征和子量表。
• 通过识别具有相似风险特征的历史贷款申请，生成基于案例的解释。
• 利用全局模型敏感性分析识别最重要的特征和子量表，确保与模型内部逻辑保持一致。
• 通过 OptConsistentRule 方法生成摘要解释，该方法生成稀疏、一致且基于数据的模型行为摘要，而不扭曲全局模型。

实验结果

研究问题

• RQ1 能否为金融贷款构建一个全局可解释的机器学习模型，使其在保持高预测准确性的同时实现完全透明？
• RQ2 如何从单一全局模型中一致地推导出多种解释类型——基于案例的解释、基于特征的解释和摘要解释——而不会产生矛盾？
• RQ3 在不牺牲模型性能的前提下，可解释性在多大程度上可以实现，尤其是与黑箱模型相比？
• RQ4 交互式可视化能否在不简化或扭曲底层逻辑的前提下，增强用户对模型决策的理解？
• RQ5 在可解释模型中，如何处理缺失数据而不损害透明度或引入偏差？

主要发现

• 所提出的双层可加风险模型在 FICO 可解释机器学习挑战赛数据集上实现了具有竞争力的预测性能，证明了可解释性并不需要以牺牲准确性为代价。
• 该模型的全局可解释性确保了多种格式解释之间的一致性与非矛盾性，解决了事后解释方法常见的问题。
• 交互式可视化工具使用户能够逐步探索模型的推理过程，揭示每个子量表和特征如何对最终决策产生贡献。
• 通过 OptConsistentRule 生成的摘要解释既稀疏又与全局模型保持一致，提供了无扭曲的高层次洞察。
• 该模型自然识别出关键风险因素，如信用使用率和违约历史，与领域知识和监管期望一致。
• 该框架荣获 FICO 奖项认可，验证了其在可解释人工智能金融领域中的创新性和实际相关性。