[论文解读] Automatic Relevance Determination Bayesian Neural Networks for Credit Card Default Modelling

Rendani Mbuvha, Ilyes Boulkaibet+1 more|arXiv (Cornell University)|Jun 14, 2019

Financial Distress and Bankruptcy Prediction被引用 4

一句话总结

本文提出使用自动相关性确定（ARD）的贝叶斯神经网络（BNNs）进行信用卡违约预测，采用高斯近似和混合蒙特卡罗（HMC）推理方法。结果表明，ARD-BNNs 显著优于标准BNNs，HMC-ARD在控制假阴性方面表现略优，且两种方法均提供了稳健且可解释的特征重要性排序，对监管合规至关重要。

ABSTRACT

Credit risk modelling is an integral part of the global financial system. While there has been great attention paid to neural network models for credit default prediction, such models often lack the required interpretation mechanisms and measures of the uncertainty around their predictions. This work develops and compares Bayesian Neural Networks(BNNs) for credit card default modelling. This includes a BNNs trained by Gaussian approximation and the first implementation of BNNs trained by Hybrid Monte Carlo(HMC) in credit risk modelling. The results on the Taiwan Credit Dataset show that BNNs with Automatic Relevance Determination(ARD) outperform normal BNNs without ARD. The results also show that BNNs trained by Gaussian approximation display similar predictive performance to those trained by the HMC. The results further show that BNN with ARD can be used to draw inferences about the relative importance of different features thus critically aiding decision makers in explaining model output to consumers. The robustness of this result is reinforced by high levels of congruence between the features identified as important using the two different approaches for training BNNs.

研究动机与目标

• 解决传统神经网络在信用风险建模中缺乏可解释性与不确定性量化的问题。
• 开发能够通过自动相关性确定（ARD）实现特征重要性估计的贝叶斯神经网络（BNNs）。
• 在信用卡违约预测背景下，比较两种贝叶斯推理方法——高斯近似与混合蒙特卡罗（HMC）——的性能。
• 评估ARD-BNNs是否能提升模型透明度并支持监管合规，如GDPR所规定的“解释权”。
• 使用真实世界信用卡数据评估ARD-BNNs的稳健性与预测性能。

提出的方法

• 采用贝叶斯神经网络（BNNs）建模信用卡违约概率，并实现不确定性量化。
• 应用自动相关性确定（ARD）通过学习权重先验的逆方差参数，推断输入特征的相对重要性。
• 使用高斯近似进行BNN中的近似贝叶斯推理，实现快速训练与不确定性估计。
• 采用混合蒙特卡罗（HMC）实现精确后验抽样，提升不确定性与特征相关性估计的理论稳健性。
• 在台湾信用卡数据集上，采用70:30的训练-测试划分进行模型训练与评估。
• 使用AUC与混淆矩阵评估性能，重点关注与信用风险相关的假阴性率。

实验结果

研究问题

• RQ1 与标准神经网络相比，使用自动相关性确定（ARD）的贝叶斯神经网络（BNNs）是否能提升信用卡违约建模中的可解释性？
• RQ2 在信用风险的ARD-BNNs中，高斯近似与混合蒙特卡罗（HMC）推理在预测性能与不确定性估计方面有何差异？
• RQ3 ARD-BNNs是否能在不同推理方法下识别出一致且稳健的特征重要性排序？
• RQ4 在BNNs中引入ARD是否能提升泛化能力并降低信用卡违约预测中的假阴性率？
• RQ5 在真实世界信用卡数据中，HMC-ARD是否能提供比高斯近似更可靠的不确定性估计与特征相关性？

主要发现

• 使用HMC训练的ARD-BNNs获得AUC为0.7783，优于HMC-MLP基线模型（AUC为0.7079），表明ARD显著提升了模型准确性。
• 高斯近似-ARD模型获得AUC为0.7753，尽管计算成本较低，但其预测性能与HMC-ARD相当。
• HMC-ARD的假阴性数量（331例）略低于高斯近似-ARD（355例），表明其在控制高成本违约误分类方面更具优势。
• 两种ARD-BNNs均将PAY0（六个月前的还款状态）识别为最重要特征，且在PAY3、LIMIT BAL与PAY AMT2等关键预测因子上具有高度一致性。
• HMC-ARD模型还识别出教育水平为相关预测因子，且后验方差热图证实了两种推理方法在特征重要性排序上的一致性。
• HMC-ARD与高斯近似-ARD在特征相关性上的高度一致性表明，基于ARD的特征选择具有稳健性，支持其在模型解释中的应用。