[论文解读] Heterogeneous Information Network based Default Analysis on Banking Micro and Small Enterprise Users

Zheng Zhang, Y. Ji+3 more|arXiv (Cornell University)|Apr 24, 2022

FinTech, Crowdfunding, Digital Finance被引用 4

一句话总结

本文提出HIDAM，一种基于异质信息网络的模型，通过元路径和分层注意力机制，利用多视角关系数据（资金、行业、股权）提升商业银行中小微企业（MSEs）的违约预测性能。该模型在真实数据上实现了0.7404的AUC和0.3600的KS得分，表现出在数据稀缺的MSEs场景下处理关系与属性丰富信息时的优越鲁棒性与可解释性。

ABSTRACT

Risk assessment is a substantial problem for financial institutions that has been extensively studied both for its methodological richness and its various practical applications. With the expansion of inclusive finance, recent attentions are paid to micro and small-sized enterprises (MSEs). Compared with large companies, MSEs present a higher exposure rate to default owing to their insecure financial stability. Conventional efforts learn classifiers from historical data with elaborate feature engineering. However, the main obstacle for MSEs involves severe deficiency in credit-related information, which may degrade the performance of prediction. Besides, financial activities have diverse explicit and implicit relations, which have not been fully exploited for risk judgement in commercial banks. In particular, the observations on real data show that various relationships between company users have additional power in financial risk analysis. In this paper, we consider a graph of banking data, and propose a novel HIDAM model for the purpose. Specifically, we attempt to incorporate heterogeneous information network with rich attributes on multi-typed nodes and links for modeling the scenario of business banking service. To enhance feature representation of MSEs, we extract interactive information through meta-paths and fully exploit path information. Furthermore, we devise a hierarchical attention mechanism respectively to learn the importance of contents inside each meta-path and the importance of different metapahs. Experimental results verify that HIDAM outperforms state-of-the-art competitors on real-world banking data.

研究动机与目标

• 解决由于信用数据有限和财务稳定性弱而导致的中小微企业（MSEs）高违约风险问题。
• 克服传统特征工程与基于规则的模型在捕捉复杂、关系性金融交互方面的局限性。
• 将MSE违约预测建模为基于图的問題，采用属性异质信息网络（AHIN）。
• 通过元路径融合多视角关系数据（资金、行业、股权），提升表征学习能力。
• 开发一种分层注意力机制，同时捕捉路径实例与元路径的重要性，以提升可解释性与性能。

提出的方法

• 将业务银行场景建模为具有多类型节点（如公司、交易、股权）与边（如转账、持股、供应链）的属性异质信息网络（AHIN）。
• 定义元路径如CbIbC（公司-银行-交易-公司）与CiC（公司-投资者-公司），以从不同视角提取结构化关系模式。
• 应用两级注意力机制：实例级注意力用于加权单个路径实例，语义级注意力用于根据其预测相关性加权不同元路径。
• 沿每条元路径聚合节点特征与中间消息，为每个MSE生成丰富且上下文感知的嵌入表示。
• 采用对比学习目标端到端训练模型，以提升稀疏数据下的表征质量与泛化能力。
• 整合显式属性（如财务比率）与隐式关系信号，以增强数据匮乏环境下的特征学习能力。

实验结果

研究问题

• RQ1 异质信息网络能否有效建模多视角关系数据（资金、行业、股权）以用于MSE违约预测？
• RQ2 不同元路径在信用数据有限的MSE违约风险识别中贡献如何？
• RQ3 分层注意力机制在多大程度上提升了违约预测模型的可解释性与性能？
• RQ4 所提出的HIDAM模型在真实银行数据上的AUC与KS统计量上是否优于现有SOTA方法？
• RQ5 模型性能对超参数（如嵌入维度与注意力向量大小）的敏感度如何？

主要发现

• HIDAM在真实银行数据上实现AUC 0.7404与KS得分0.3600，优于所有SOTA基线模型。
• 模型在消融实验中表现出鲁棒性：移除任一组件（如元路径学习、注意力机制）均导致性能一致下降，AUC最高下降1.93%。
• 语义级注意力显示，与股权相关的元路径（如CcPcC、CiC）对预测贡献更大，与领域预期一致。
• 实例级注意力识别出特定高风险关联方（如C19、C51、C206）为高影响力邻居，支持模型的可解释性。
• 模型对嵌入维度最敏感，性能在中等值时达到峰值，随后出现过拟合。
• 性能在不同注意力向量维度下保持稳定，表明模型具备足够容量捕捉语义偏好而不会过拟合。