[论文解读] client2vec: Towards Systematic Baselines for Banking Applications

Leonardo Baldassini, José Antonio Rodríguez Serrano|arXiv (Cornell University)|Feb 12, 2018

Data Stream Mining Techniques参考文献 38被引用 10

一句话总结

client2vec 是一个轻量级的无监督库，通过在交易数据上使用边缘化堆叠去噪自编码器（mSDA）生成客户嵌入，从而在银行应用中实现快速基线构建。它在客户细分、支出重建和活动定位任务中优于传统方法，在汽车保险检索任务中实现了 0.897 的 MAP@50，通过从粗粒度交易数据中捕捉潜在行为模式实现。

ABSTRACT

The workflow of data scientists normally involves potentially inefficient processes such as data mining, feature engineering and model selection. Recent research has focused on automating this workflow, partly or in its entirety, to improve productivity. We choose the former approach and in this paper share our experience in designing the client2vec: an internal library to rapidly build baselines for banking applications. Client2vec uses marginalized stacked denoising autoencoders on current account transactions data to create vector embeddings which represent the behaviors of our clients. These representations can then be used in, and optimized against, a variety of tasks such as client segmentation, profiling and targeting. Here we detail how we selected the algorithmic machinery of client2vec and the data it works on and present experimental results on several business cases.

研究动机与目标

• 通过减少对手动特征工程和定制模型构建的依赖，简化银行领域中的数据科学工作流程。
• 创建一个可重用、低复杂度的工具，通过极少的预处理，为以行为为中心的应用生成信息丰富的基线。
• 使数据科学家能够直接针对业务目标（如活动定位精度）优化嵌入表示。
• 探索无监督客户嵌入是否能在下游任务中超越社会人口统计或原始交易特征的表现。
• 开发一个快速、可在简单基础设施上部署且可扩展至未来用例的系统。

提出的方法

• client2vec 使用边缘化堆叠去噪自编码器（mSDA）从交易数据中直接学习客户密集向量表示，绕过 word2vec 风格的中间交易嵌入。
• mSDA 模型在客户交易序列上端到端训练，学习重建原始输入的同时，学习一个鲁棒的低维嵌入空间。
• 客户嵌入来自 mSDA 学习到的编码器层，作为下游任务中最近邻检索的输入。
• 系统采用点积评分对客户进行基于嵌入相似度的排序，实现快速检索，适用于活动定位或支出预测等任务。
• 通过将业务问题建模为最近邻回归任务，构建基线，利用数据的不合理有效性原理。
• 该方法支持通过优化特定指标（如目标检索任务的平均精度 MAP）来微调嵌入表示。

实验结果

研究问题

• RQ1 从原始交易数据中提取的无监督客户嵌入是否能在客户细分和定位任务中超越传统社会人口统计特征？
• RQ2 在银行应用中，使用 mSDA 直接学习客户嵌入是否优于基于 word2vec 的交易嵌入组合方法？
• RQ3 仅凭粗粒度交易数据在多大程度上能捕捉对下游业务任务有意义的行为模式？
• RQ4 同一客户嵌入是否可在多种银行应用中有效复用，如客户画像、支出重建和活动定位？
• RQ5 在基于嵌入的搜索中，使用不同 k-邻域大小时，检索多样性与精度之间的权衡如何？

主要发现

• 基于 mSDA 的 client2vec 方法在检索具有汽车相关支出的客户时，实现了 0.897 的 MAP@50，远超随机基线的 0.068。
• 该方法在客户细分和定位任务中优于原始交易特征和社会人口统计变量，证明了学习到的行为嵌入的价值。
• 当采用更宽泛的相关性标准（即客户在 BBVA 或外部保险公司购买了汽车保险）时，MAP 从 0.289 提升至 0.897，表明模型有效捕捉了潜在的行为信号。
• 在 k ∈ [1E4, 2E4] 范围内实现了多样性与精度的最佳平衡，此时高 MAP 值与高比例的相关客户被检索到相一致。
• 系统在不到五分钟内以极少代码实现有效基线，验证了其在快速原型设计和生产部署中的实用性。
• 人工检查确认，模型成功基于加油和修车店访问等交易模式，检索出可能拥有汽车保险的客户，支持了模型的语义可解释性。