[论文解读] Segment-Based Credit Scoring Using Latent Clusters in the Variational Autoencoder

Rogelio A. Mancisidor, Michael Kampffmeyer+2 more|arXiv (Cornell University)|Jun 7, 2018

Customer churn and segmentation参考文献 33被引用 3

一句话总结

本文提出了一种基于片段的信用评分框架，利用变分自编码器（VAEs）发现具有不同风险特征的潜在客户群体。通过对输入数据应用证据权重（WoE）变换，VAE 学习到一个有意义的潜在空间，其中聚类呈现出清晰且可解释的风险差异，从而实现聚类的自动标记、可视化以及可扩展的非线性分割，无需预设聚类数量或专家输入——在稳定性与可解释性方面优于传统聚类方法，在金融风险建模中表现更优。

ABSTRACT

Identifying customer segments in retail banking portfolios with different risk profiles can improve the accuracy of credit scoring. The Variational Autoencoder (VAE) has shown promising results in different research domains, and it has been documented the powerful information embedded in the latent space of the VAE. We use the VAE and show that transforming the input data into a meaningful representation, it is possible to steer configurations in the latent space of the VAE. Specifically, the Weight of Evidence (WoE) transformation encapsulates the propensity to fall into financial distress and the latent space in the VAE preserves this characteristic in a well-defined clustering structure. These clusters have considerably different risk profiles and therefore are suitable not only for credit scoring but also for marketing and customer purposes. This new clustering methodology offers solutions to some of the challenges in the existing clustering algorithms, e.g., suggests the number of clusters, assigns cluster labels to new customers, enables cluster visualization, scales to large datasets, captures non-linear relationships among others. Finally, for portfolios with a large number of customers in each cluster, developing one classifier model per cluster can improve the credit scoring assessment.

研究动机与目标

• 解决传统聚类方法在信用风险细分中的局限性，例如聚类数量选择的任意性以及可扩展性差的问题。
• 利用变分自编码器（VAE）的潜在空间，发现具有不同风险特征的非线性、有意义的客户群体。
• 开发一种方法，可自动将新客户分配至现有聚类，并支持对聚类结构进行可视化。
• 通过构建分段特定的模型而非全组合模型，提升信用评分的准确性。
• 为零售银行提供一种可扩展、数据驱动的替代方案，以替代基于启发式或专家定义的细分方法。

提出的方法

• 对金融特征应用证据权重（WoE）变换，以编码违约倾向，增强潜在空间中的可解释性。
• 使用 AEVB 算法训练变分自编码器（VAE），学习客户数据的低维、解耦潜在表示。
• 利用 VAE 潜在空间中学习到的后验分布，生成保留风险相关聚类结构的编码表示。
• 使用标准聚类算法（如 k-means）对 VAE 学习到的潜在编码进行聚类，以识别不同的客户群体。
• 利用 VAE 的生成能力，通过后验推断为新客户分配聚类标签。
• 通过在潜在编码上应用降维技术（如 PCA）对聚类进行可视化，以解释各聚类的特征。

实验结果

研究问题

• RQ1 变分自编码器（VAE）的潜在空间是否能有效捕捉并保留客户组合中的风险相关聚类结构？
• RQ2 WoE 变换是否能增强 VAE 潜在空间中聚类的可解释性与质量？
• RQ3 所提出的方法是否能自动建议聚类数量，而无需人工调优或专家输入？
• RQ4 能否通过 VAE 框架可靠地将新客户分配至现有聚类？
• RQ5 与单一模型的全组合评分相比，基于 VAE 衍生聚类的分段信用评分是否能提升模型性能？

主要发现

• VAE 的潜在空间保留了结构清晰的聚类结构，且聚类之间表现出显著不同的违约倾向。
• 采用 WoE 变换显著提升了潜在空间的可解释性，使聚类结构与财务困境风险高度一致。
• 该方法通过聚类质量指标（如 CH、轮廓系数、戴维斯-布尔丁指数）自动建议聚类数量，挪威汽车贷款数据集的结果收敛于 2–3 个聚类。
• 与传统聚类方法不同，VAE 方法可通过潜在编码的 PCA 可视化聚类，并借助后验推断实现新客户的聚类标签分配。
• 该方法在大规模数据集上具有高效可扩展性，能够捕捉线性方法（如 PCA 或 k-means）无法建模的复杂非线性关系。
• 基于 VAE 衍生聚类构建的分段特定信用模型，优于单一模型的全组合方法，显著提升了整体信用评分准确性。