[论文解读] Modelling graph dynamics in fraud detection with "Attention"

Susie Xi Rao, Clémence Lanfranchi+8 more|arXiv (Cornell University)|Apr 22, 2022

Advanced Graph Neural Networks被引用 5

一句话总结

本文提出 DyHGN，一种动态异构图神经网络，通过整合历时性实体嵌入与异构图注意力机制，建模欺诈检测中的时序与结构动态性。在真实世界 eBay 数据集上，该方法在时间维度上标签分布不均的情况下仍实现最先进性能，并通过 Shapley 值展示了注意力机制在捕捉动态、异构图模式方面的关键作用，同时提升了可解释性。

ABSTRACT

At online retail platforms, detecting fraudulent accounts and transactions is crucial to improve customer experience, minimize loss, and avoid unauthorized transactions. Despite the variety of different models for deep learning on graphs, few approaches have been proposed for dealing with graphs that are both heterogeneous and dynamic. In this paper, we propose DyHGN (Dynamic Heterogeneous Graph Neural Network) and its variants to capture both temporal and heterogeneous information. We first construct dynamic heterogeneous graphs from registration and transaction data from eBay. Then, we build models with diachronic entity embedding and heterogeneous graph transformer. We also use model explainability techniques to understand the behaviors of DyHGN-* models. Our findings reveal that modelling graph dynamics with heterogeneous inputs need to be conducted with "attention" depending on the data structure, distribution, and computation cost.

研究动机与目标

• 开发一个端到端框架，用于在电商平台上对异构图中的结构与时间动态进行建模，以实现欺诈检测。
• 解决在节点与边关系随时间演变的动态真实世界交易图中，检测欺诈账户与交易的挑战。
• 评估注意力机制在不同数据分布与计算约束下，对建模动态异构图结构的有效性。
• 通过图衍生特征的 Shapley 值提升模型可解释性，为业务提供可操作的洞察。

提出的方法

• 从 eBay 注册与交易数据构建动态异构图，包含多种节点类型（如账户、IP 地址、电话号码）与时间边。
• 使用 LSTM 实现 DyHGN 的历时性实体嵌入，以捕捉随时间演化的实体表示。
• 将异构图变换器（HGT）与自注意力机制结合，建模不同节点与边类型之间的动态关系。
• 扩展 DyHGN 为多种变体：DyHGN-DE（仅历时性嵌入）与 DyHGN-DE-HGT（历时性嵌入 + HGT），用于消融实验与性能比较。
• 使用 XGBoost 结合图衍生特征与 Shapley 值，解释模型预测并评估特征重要性。
• 在三个真实世界数据集（MassReg、xFraudTxn、xFraudAccount）上，将 DyHGN-* 模型与 GAT 及其他 GNN 模型进行基准对比。

实验结果

研究问题

• RQ1 与静态或同构模型相比，使用注意力机制建模动态异构图结构，如何提升欺诈检测性能？
• RQ2 在动态图设置中，使用 HGT 等基于注意力的机制与 GAT 等简单模型相比，性能与计算成本之间的权衡如何？
• RQ3 时间维度上标签分布不均如何影响动态图神经网络的性能？DyHGN-* 模型能否缓解此问题？
• RQ4 注意力机制在具有波动风险模式的动态图中，多大程度上能捕捉长期依赖关系？
• RQ5 Shapley 值在欺诈检测系统中，对图衍生特征与模型决策的解释性有多高？

主要发现

• 在标签时间分布不均的数据集（如 MassReg）中，DyHGN-* 模型优于 GAT 与其他 GNN 模型，尤其在时间模式关键的场景下。
• 在标签分布更均衡的数据集（xFraudTxn、xFraudAccount）中，GAT 显著优于基于 HGT 的模型，因其训练成本更低且性能相当。
• 历时性实体嵌入的引入使模型能够从历史数据中学习长期依赖关系，尤其在风险模式随时间演变时更具优势。
• 通过 Shapley 值实现的模型可解释性分析表明，图衍生特征（尤其是时间与结构模式）是欺诈预测的关键驱动因素。
• 最大规模的 DyHGN-* 模型每轮训练耗时 4–15 分钟，表明存在可扩展性挑战；未来工作将聚焦于小批量训练与分布式部署，以支持工业级应用。