[论文解读] Rayleigh Quotient Graph Neural Networks for Graph-level Anomaly Detection

Xiangyu Dong, Xingyi Zhang+1 more|arXiv (Cornell University)|Oct 4, 2023

Anomaly Detection Techniques and ApplicationsComputer Science被引用 3

一句话总结

该论文提出RQGNN，一种新颖的谱图神经网络，用于图级异常检测，利用瑞利商（Rayleigh Quotient）捕捉异常图与正常图之间的内在谱差异。通过结合显式瑞利商学习（RQL）与切比雪夫小波图神经网络及RQ池化（CWGNN-RQ），RQGNN在10个真实世界数据集上实现了最先进性能，相比最佳基线模型，Macro-F1提升6.74%，AUC提升1.44%。

ABSTRACT

Graph-level anomaly detection has gained significant attention as it finds applications in various domains, such as cancer diagnosis and enzyme prediction. However, existing methods fail to capture the spectral properties of graph anomalies, resulting in unexplainable framework design and unsatisfying performance. In this paper, we re-investigate the spectral differences between anomalous and normal graphs. Our main observation shows a significant disparity in the accumulated spectral energy between these two classes. Moreover, we prove that the accumulated spectral energy of the graph signal can be represented by its Rayleigh Quotient, indicating that the Rayleigh Quotient is a driving factor behind the anomalous properties of graphs. Motivated by this, we propose Rayleigh Quotient Graph Neural Network (RQGNN), the first spectral GNN that explores the inherent spectral features of anomalous graphs for graph-level anomaly detection. Specifically, we introduce a novel framework with two components: the Rayleigh Quotient learning component (RQL) and Chebyshev Wavelet GNN with RQ-pooling (CWGNN-RQ). RQL explicitly captures the Rayleigh Quotient of graphs and CWGNN-RQ implicitly explores the spectral space of graphs. Extensive experiments on 10 real-world datasets show that RQGNN outperforms the best rival by 6.74% in Macro-F1 score and 1.44% in AUC, demonstrating the effectiveness of our framework. Our code is available at https://github.com/xydong127/RQGNN.

研究动机与目标

• 为解决现有图级异常检测方法中缺乏谱分析的问题，这些方法通常依赖空间图神经网络，而未捕捉异常图的潜在谱特性。
• 探究谱能量差异，特别是通过瑞利商，是否可作为识别异常图的判别性信号。
• 开发一种新型图神经网络框架，显式编码瑞利商，并隐式学习谱表示，以提升检测性能。
• 通过引入一种谱感知的池化机制RQ-pooling，克服传统池化方法在图级异常检测中的局限性。
• 在训练过程中使用类别平衡的焦点损失，缓解图级异常检测中的数据不平衡问题。

提出的方法

• 提出瑞利商学习（RQL）组件，显式计算并嵌入每个图的瑞利商作为可学习表征。
• 引入切比雪夫小波图神经网络及RQ池化（CWGNN-RQ），利用切比雪夫多项式近似在谱域建模图信号，同时将瑞利商作为节点权重。
• 采用RQ-pooling作为新型池化机制，基于瑞利商分配注意力权重，实现谱感知的图级表征学习。
• 通过拼接显式RQL与隐式CWGNN-RQ表征，形成最终的图嵌入。
• 使用类别平衡的焦点损失，缓解图级异常检测中长尾数据分布问题，提升模型对少数异常类别的鲁棒性。
• 理论分析证明，图中累积的谱能量等价于瑞利商，从而为将其作为异常检测核心信号提供理论依据。

实验结果

研究问题

• RQ1 瑞利商能否作为判别性谱特征，用于区分异常图与正常图？
• RQ2 异常图与正常图的谱能量分布有何差异？这些差异是否可量化并用于检测？
• RQ3 通过RQL显式引入瑞利商，以及通过RQ-pooling隐式引入瑞利商，是否能提升图级异常检测性能，优于空间图神经网络？
• RQ4 RQ-pooling在捕捉谱异常方面，与平均池化或求和池化等标准池化函数相比，优势有多大？
• RQ5 测试集中瑞利商的分布能否用作模型泛化能力和检测可靠性的代理指标？

主要发现

• 异常图的瑞利商分布与正常图在统计上显著不同，在多个数据集和样本规模下均表现出一致模式。
• 在10个真实世界数据集上，RQGNN相比最佳基线模型，Macro-F1平均提升6.74%，AUC平均提升1.44%。
• 消融实验确认，RQL与RQ-pooling组件均不可或缺：移除任一组件，Macro-F1平均下降3.92%，AUC平均下降1.76%。
• RQ-pooling机制显著优于平均池化，凸显谱感知池化在异常检测中的重要性。
• 案例研究显示，测试集中被正确分类的图，其瑞利商分布与训练集保持一致，证实RQGNN学习到了异常的内在谱趋势。
• 超参数分析表明，隐藏维度为64、宽度为4、深度为6时，在多个数据集上性能最优，确保稳定且高质量的结果。