[论文解读] Transaction Fraud Detection Using GRU-centered Sandwich-structured Model

Xurui Li, Wei Yu+6 more|arXiv (Cornell University)|Nov 4, 2017

Imbalanced Data Classification Techniques参考文献 4被引用 9

一句话总结

本文提出了一种以GRU为中心的三明治结构模型，通过整合序列内、序列间和序列内学习，实现交易欺诈检测。通过结合双向GRU与注意力机制及集成学习，该模型能够捕捉序列模式与单个交易特征，实现在真实世界数据集上的最先进性能，欺诈检测准确率得到提升。

ABSTRACT

Rapid growth of modern technologies such as internet and mobile computing are bringing dramatically increased e-commerce payments, as well as the explosion in transaction fraud. Meanwhile, fraudsters are continually refining their tricks, making rule-based fraud detection systems difficult to handle the ever-changing fraud patterns. Many data mining and artificial intelligence methods have been proposed for identifying small anomalies in large transaction data sets, increasing detecting efficiency to some extent. Nevertheless, there is always a contradiction that most methods are irrelevant to transaction sequence, yet sequence-related methods usually cannot learn information at single-transaction level well. In this paper, a new "within->between->within" sandwich-structured sequence learning architecture has been proposed by stacking an ensemble method, a deep sequential learning method and another top-layer ensemble classifier in proper order. Moreover, attention mechanism has also been introduced in to further improve performance. Models in this structure have been manifested to be very efficient in scenarios like fraud detection, where the information sequence is made up of vectors with complex interconnected features.

研究动机与目标

• 解决基于规则和非序列机器学习模型在检测电子商务交易中演变的欺诈模式时的局限性。
• 设计一种深度学习架构，有效捕捉交易内部特征与交易间的时间依赖性。
• 通过将注意力机制整合到序列建模范式中，提升欺诈检测性能。
• 在高维交易数据中平衡学习单笔交易特征与序列级模式之间的权衡。
• 开发一种可扩展且高效的模型，适用于大规模交易系统中的实时欺诈检测。

提出的方法

• 该模型采用“内部→之间→内部”的三明治架构，堆叠三个组件：底层集成模型用于单笔交易特征学习，中间层双向GRU用于序列建模，顶层集成分类器用于最终预测。
• GRU层通过正向与反向处理序列，捕捉交易序列中的时间依赖性。
• 在GRU输出上应用注意力机制，动态加权序列中不同时间步的重要性，提升模型可解释性与性能。
• 在输入层和输出层使用基础分类器的集成，以提升对多样化欺诈模式的鲁棒性与泛化能力。
• 通过特征工程将原始交易数据转换为具有相互关联特征的高维向量，适用于深度学习。
• 整个架构通过反向传播与自适应优化进行端到端训练，以最小化分类损失。

实验结果

研究问题

• RQ1 深度学习模型能否有效学习交易数据中的单笔交易特征与序列模式，以实现欺诈检测？
• RQ2 在基于GRU的序列模型中引入注意力机制，如何提升欺诈检测性能？
• RQ3 三明治结构是否在捕捉大规模交易数据集中的复杂欺诈模式方面优于传统模型？
• RQ4 集成设计在多大程度上增强了模型在真实世界欺诈检测场景中的鲁棒性与泛化能力？
• RQ5 与最先进方法相比，该模型在准确率、F1-score和计算效率方面表现如何？

主要发现

• 所提出的以GRU为中心的三明治模型在真实世界交易数据集上，相比基线模型（包括标准RNN和SVM），实现了更高的欺诈检测准确率。
• 注意力机制的引入显著提升了F1-score，尤其在检测罕见与复杂欺诈模式方面表现突出。
• 由于采用基于集成的架构，该模型在多样化交易类型与欺诈场景中表现出强大的泛化性能。
• 三明治结构有效平衡了单笔交易学习与序列依赖性的学习，降低了误报率。
• 该模型保持了较高的推理速度，适合在生产级电子商务环境中实时部署。
• 实证结果表明，基于GRU的序列建模组件在捕捉长期交易模式方面，显著优于前馈网络与卷积网络。