[论文解读] AnomalyDAE: Dual autoencoder for anomaly detection on attributed networks

Haoyi Fan, Fengbin Zhang+1 more|arXiv (Cornell University)|Feb 10, 2020

Network Security and Intrusion Detection参考文献 20被引用 12

一句话总结

AnomalyDAE 提出了一种用于属性网络异常检测的双自编码器框架，通过独立的结构和属性自编码器联合学习节点和属性嵌入，并结合注意力增强的结构编码与跨模态重建。该方法实现了最先进性能，在真实世界数据集上的 AUC 提升最高达 22.32%。

ABSTRACT

Anomaly detection on attributed networks aims at finding nodes whose patterns deviate significantly from the majority of reference nodes, which is pervasive in many applications such as network intrusion detection and social spammer detection. However, most existing methods neglect the complex cross-modality interactions between network structure and node attribute. In this paper, we propose a deep joint representation learning framework for anomaly detection through a dual autoencoder (AnomalyDAE), which captures the complex interactions between network structure and node attribute for high-quality embeddings. Specifically, AnomalyDAE consists of a structure autoencoder and an attribute autoencoder to learn both node embedding and attribute embedding jointly in latent space. Moreover, attention mechanism is employed in structure encoder to learn the importance between a node and its neighbors for an effective capturing of structure pattern, which is important to anomaly detection. Besides, by taking both the node embedding and attribute embedding as inputs of attribute decoder, the cross-modality interactions between network structure and node attribute are learned during the reconstruction of node attribute. Finally, anomalies can be detected by measuring the reconstruction errors of nodes from both the structure and attribute perspectives. Extensive experiments on real-world datasets demonstrate the effectiveness of the proposed method.

研究动机与目标

• 解决现有异常检测方法在属性网络中忽略网络结构与节点属性之间复杂跨模态交互的局限性。
• 开发一种深度联合表示学习框架，同时捕捉结构与属性模式，以提升异常检测性能。
• 通过双自编码器实现节点与属性嵌入的端到端学习，并基于重建误差计算异常评分。
• 通过在编码与重建阶段均建模结构与属性之间的交互，提升检测性能。

提出的方法

• 使用结构自编码器通过重建网络邻接矩阵来学习节点嵌入，引入注意力机制以加权邻居的重要性。
• 使用属性自编码器从学习到的属性嵌入中重建节点属性，捕捉属性层面的模式。
• 联合训练两个自编码器，以在共享嵌入空间中学习节点与属性的潜在表示。
• 通过将节点与属性嵌入同时作为属性解码器的输入，整合跨模态交互，实现基于结构上下文的属性重建。
• 将异常评分计算为结构与属性两个视角的重建误差的加权和：$ \mathcal{L} = \alpha \cdot \mathcal{L}_{\text{struct}} + (1 - \alpha) \cdot \mathcal{L}_{\text{attr}} $。
• 对组合异常评分应用阈值，将节点分类为正常（0）或异常（1）

实验结果

研究问题

• RQ1 通过双自编码器联合学习节点与属性嵌入，是否能提升属性网络中的异常检测性能？
• RQ2 注意力机制在通过加权邻居重要性来捕捉结构模式方面，对异常检测的效率如何？
• RQ3 网络结构与节点属性之间的跨模态交互在多大程度上增强了异常检测？
• RQ4 该方法对超参数（如嵌入维度和权衡参数 $\alpha$）的敏感性如何？
• RQ5 在多样化的现实世界属性网络数据集上，该方法是否在 AUC 指标上优于最先进方法？

主要发现

• 在 BlogCatalog 数据集上，AnomalyDAE 达到 97.81 的 AUC 分数，相比次优方法 Dominant 提升 19.68%。
• 在 Flickr 数据集上，AnomalyDAE 达到 97.22 的 AUC 分数，相比 SOTA 方法 Dominant 提升 22.32%。
• 在 ACM 数据集上，AnomalyDAE 达到 90.05 的 AUC 分数，相比 Dominant 提升 15.11%。
• 该方法在所有三个数据集上均持续优于所有基线方法，包括 LOF、SCAN、AMEN、Radar、Anomalous 和 Dominant。
• 参数敏感性分析表明，在嵌入维度为 128 或 256 时性能最优，而过低或过高的维度会导致性能下降。
• 权衡参数 $\alpha$ 显著影响性能，极端值（0 或 1）导致结果较差，证实了跨模态交互平衡的重要性。