[论文解读] Customers Churn Prediction in Financial Institution Using Artificial Neural Network

Kamorudeen A. Amuda, Adesesan B. Adeyemo|arXiv (Cornell University)|Dec 23, 2019

Customer churn and segmentation被引用 13

一句话总结

本研究提出一种多层感知机（MLP）人工神经网络，用于预测尼日利亚金融机构的客户流失，避免了人工特征工程。该模型使用 Python 在 50,000 条客户记录上进行训练，采用 Dropout 和 L2 正则化，准确率达到 97.53%，AUC 为 0.89，优于传统机器学习模型，并与商用软件结果相当。

ABSTRACT

In this study, a predictive model using Multi-layer Perceptron of Artificial Neural Network architecture was developed to predict customer churn in a financial institution. Previous researches have used supervised machine learning classifiers such as Logistic Regression, Decision Tree, Support Vector Machine, K-Nearest Neighbors, and Random Forest. These classifiers require human effort to perform feature engineering which leads to over-specified and incomplete feature selection. Therefore, this research developed a model to eliminate manual feature engineering in data preprocessing stage. Fifty thousand customers? data were extracted from the database of one of the leading financial institution in Nigeria for the study. The multi-layer perceptron model was built with python programming language and used two overfitting techniques (Dropout and L2 regularization). The implementation done in python was compared with another model in Neuro solution infinity software. The results showed that the Artificial Neural Network software development (Python) had comparable performance with that obtained from the Neuro Solution Infinity software. The accuracy rates are 97.53% and 97.4% while ROC (Receiver Operating Characteristic) curve graphs are 0.89 and 0.85 respectively.

研究动机与目标

• 开发一种自动化的客户流失预测模型，以最小化金融机构中的手动特征工程。
• 评估多层感知机（MLP）神经网络与传统监督机器学习分类器的性能。
• 比较基于 Python 的人工神经网络实现与商用 NeuroSolutions Infinity 软件实现的有效性。
• 评估正则化技术（Dropout 和 L2 正则化）在缓解过拟合方面对模型泛化能力的影响。
• 证明深度学习在真实世界金融数据集上实现高准确率的流失预测的可行性。

提出的方法

• 使用 Python 的 Keras 和 TensorFlow 库实现多层感知机（MLP）神经网络架构。
• 模型采用两种过拟合缓解技术：Dropout（神经元丢弃率）和 L2 正则化（权重衰减）。
• 数据集由尼日利亚金融机构的 50,000 条客户记录组成，经过预处理但未进行人工特征工程。
• 使用随机梯度下降进行模型训练，损失函数为分类交叉熵，输出层采用 softmax。
• 通过准确率、ROC-AUC 和混淆矩阵等指标评估模型性能。
• 将模型与使用相同数据集和评估标准的 NeuroSolutions Infinity 软件实现进行对比。

实验结果

研究问题

• RQ1 人工神经网络模型是否能在无需人工特征工程的情况下，实现比传统监督学习模型更高的流失预测准确率？
• RQ2 Dropout 和 L2 正则化在客户流失预测任务中防止过拟合的有效性如何？
• RQ3 基于 Python 的深度学习实现是否在流失预测性能上优于或至少匹配商用软件（NeuroSolutions Infinity）？
• RQ4 MLP 中的自动特征学习在多大程度上可以减少金融客户数据中对领域特定特征工程的需求？
• RQ5 在真实世界金融流失预测场景中，模型复杂度与泛化能力之间应如何达到最优平衡？

主要发现

• 基于 Python 的 MLP 模型在测试集上达到 97.53% 的准确率，表明其在金融客户流失数据集上具有出色的预测性能。
• 该模型的 ROC-AUC 得分为 0.89，表明其在区分流失客户与非流失客户方面具有较强的判别能力。
• NeuroSolutions Infinity 实现的准确率为 97.4%，AUC 为 0.85，性能与基于 Python 的模型相当。
• 使用 Dropout 和 L2 正则化显著减少了过拟合，提升了模型在未见数据上的泛化能力。
• 研究证实，深度神经网络中的自动特征学习能够有效替代流失预测任务中的手工特征工程。
• 结果表明，如 MLP 这类深度学习模型是传统机器学习分类器在金融流失预测中的可行且高效的替代方案。