[论文解读] Churn analysis using deep convolutional neural networks and autoencoders

Artit Wangperawong, Cyrille Brun+2 more|arXiv (Cornell University)|Apr 18, 2016

Customer churn and segmentation参考文献 3被引用 20

一句话总结

本文提出了一种新颖的深度学习方法，通过将时间序列行为数据转换为类似图像的表示形式，使卷积神经网络（CNN）可用于监督学习，同时利用自编码器进行无监督分析。该方法仅使用每位客户12个时间特征，在测试集上实现了0.743的AUC，同时自编码器的激活图揭示了可操作的洞察，有助于保留高风险用户。

ABSTRACT

Customer temporal behavioral data was represented as images in order to perform churn prediction by leveraging deep learning architectures prominent in image classification. Supervised learning was performed on labeled data of over 6 million customers using deep convolutional neural networks, which achieved an AUC of 0.743 on the test dataset using no more than 12 temporal features for each customer. Unsupervised learning was conducted using autoencoders to better understand the reasons for customer churn. Images that maximally activate the hidden units of an autoencoder trained with churned customers reveal ample opportunities for action to be taken to prevent churn among strong data, no voice users.

研究动机与目标

• 通过将通常用于图像分类的深度学习架构应用于时间序列客户行为数据，提升流失预测的准确性。
• 探索通过自编码器进行无监督表示学习，以揭示客户流失背后潜在的模式与原因。
• 将原始的客户行为序列转换为类似图像的可视化表示，以保留时间动态特性，便于深度学习处理。
• 识别出可采取行动的客户群体——特别是“高数据使用、无语音通信”用户——以确定最有效的留存干预策略。
• 展示在大规模真实世界客户流失预测中，仅通过极少特征工程即可实现深度学习的可行性与性能。

提出的方法

• 将客户的时间序列行为数据（如使用模式、服务交互）转换为2D图像表示，以保留序列结构并支持CNN处理。
• 在带标签数据（流失 vs. 未流失）上以监督方式训练深度卷积神经网络（CNN），以预测客户流失概率。
• 仅使用流失客户的数据训练自编码器，以学习与流失相关的有意义的行为模式的压缩表示。
• 对训练好的自编码器的隐藏单元应用最大激活分析，以可视化和解释最具代表性的流失指示性行为模式。
• 该模型仅使用每位客户12个时间特征，最大限度降低输入复杂度，同时保持预测性能。
• 该方法结合监督学习用于预测，以及无监督分析用于可解释性，从而支持针对性的留存策略。

实验结果

研究问题

• RQ1 时间序列客户行为数据能否被有效转换为图像表示，以保留用于流失预测的判别性模式？
• RQ2 当在仅使用少量特征的图像化行为序列上进行训练时，深度卷积神经网络在流失预测上的表现如何？
• RQ3 通过自编码器可以学习到流失客户的哪些隐藏表示？这些表示如何为留存策略提供依据？
• RQ4 哪些客户群体在自编码器隐藏单元上被显著激活，表明其具有高流失风险并存在干预潜力？
• RQ5 结合监督CNN与无监督自编码器，是否能同时实现高预测准确率与可操作的洞察？

主要发现

• 深度CNN在测试数据集上实现了0.743的ROC曲线下面积（AUC），表明在仅使用每位客户12个时间特征的情况下，仍具有出色的预测性能。
• 在流失客户数据上训练的自编码器学习到了有意义的表示，突出了与客户流失相关的特定行为模式。
• 能最大程度激活自编码器隐藏单元的图像揭示了针对“强数据、无语音”用户群体的清晰可操作信号，表明针对性的留存策略可能有效。
• 自编码器激活图的可视化可解释性提供了超越单纯预测的洞察，有助于识别行为数据中的关键流失驱动因素。
• 该方法成功将计算机视觉中的深度学习架构应用于非视觉、序列型客户行为问题，实现了优异的性能与可解释性。
• 该方法表明，时间序列数据的图像化转换可有效支持强大深度学习模型在客户流失分析中的应用。