[论文解读] PCAL: A Privacy-preserving Intelligent Credit Risk Modeling Framework Based on Adversarial Learning

Yuli Zheng, Zhenyu Wu+3 more|arXiv (Cornell University)|Oct 6, 2020

Privacy-Preserving Technologies in Data参考文献 13被引用 11

一句话总结

PCAL 提出了一种基于对抗学习的隐私保护信用风险建模框架，通过训练客户端的掩码模型，在保持信用评分预测效用的同时对敏感金融数据进行匿名化处理，从而在效用与隐私之间实现最优平衡。该方法在 BLS 数据集上实现了 95.29% 的贷款决策准确率，并在多种攻击模型下显著降低了隐私泄露（R² < 0.07），达到当前最优的效用-隐私权衡表现。

ABSTRACT

Credit risk modeling has permeated our everyday life. Most banks and financial companies use this technique to model their clients' trustworthiness. While machine learning is increasingly used in this field, the resulting large-scale collection of user private information has reinvigorated the privacy debate, considering dozens of data breach incidents every year caused by unauthorized hackers, and (potentially even more) information misuse/abuse by authorized parties. To address those critical concerns, this paper proposes a framework of Privacy-preserving Credit risk modeling based on Adversarial Learning (PCAL). PCAL aims to mask the private information inside the original dataset, while maintaining the important utility information for the target prediction task performance, by (iteratively) weighing between a privacy-risk loss and a utility-oriented loss. PCAL is compared against off-the-shelf options in terms of both utility and privacy protection. Results indicate that PCAL can learn an effective, privacy-free representation from user data, providing a solid foundation towards privacy-preserving machine learning for credit risk analysis.

研究动机与目标

• 为应对因广泛收集敏感金融数据而引发的信用风险建模中日益增长的隐私担忧。
• 开发一种在不牺牲信用评分预测性能的前提下保护隐私的框架。
• 通过对抗训练对敏感属性进行掩码处理，实现客户端与金融机构之间的安全数据共享。
• 利用动态隐私破解模型，定量评估模型效用与隐私保护之间的权衡。

提出的方法

• 训练客户端的掩码模型，将原始金融数据转换为保留信用风险预测效用的匿名化表示。
• 框架采用极小化极大对抗训练目标，平衡信用预测的效用损失与阻碍敏感属性推断的隐私风险损失。
• 训练隐私破解模型，从掩码表示中预测敏感属性（如收入、余额），并以该模型的成功率作为隐私泄露的度量指标。
• 优化掩码模型，使其最小化隐私破解模型的性能，确保敏感信息被有效隐藏。
• 采用多种回归模型（SVR、RFR、ElasticNet 和深度网络）的集成作为隐私攻击者，以评估框架的鲁棒性。
• 在两个真实世界数据集上评估该方法：BLS（50,000 条记录）和 Lending Club Loan（890,000 条记录），通过隐私攻击中的准确率和 R² 值衡量性能。

实验结果

研究问题

• RQ1 对抗学习框架是否能有效掩码敏感金融属性，同时保留信用风险建模的预测效用？
• RQ2 与朴素的数据移除策略（弱/强保护）相比，所提出的 PCAL 框架在效用与隐私方面表现如何？
• RQ3 该框架在使用多种机器学习模型进行隐私推断攻击时，其抵抗能力如何？
• RQ4 该框架是否能在显著降低从匿名化表示中重新识别敏感信息风险的同时，保持高信用预测准确率？

主要发现

• 在 BLS 数据集中，PCAL 实现了 95.29% 的贷款决策准确率，显著优于弱保护（77.14%）和强保护（57.40%）基线。
• 在 Lending Club 数据集中，PCAL 维持了 97.39% 的准确率，优于所有基线，且接近未受保护原始数据（UP）的性能。
• 在所有攻击模型下，PCAL 掩码表示的隐私破解模型 R² 值均低于 0.07，表明对推断攻击具有强抵抗能力。
• 相比之下，未受保护数据（UP）的隐私攻击 R² 最高可达 1.0，而弱保护和强保护仍存在显著泄露（R² > 0.1）。
• PCAL 展现了最佳的效用-隐私权衡，既保持了高预测性能，又最大限度地降低了敏感属性重建风险。
• 该框架在包括深度神经网络和传统回归器在内的多种攻击模型下，均有效降低了隐私泄露，证实了其鲁棒性。