[论文解读] Three Revisits to Node-Level Graph Anomaly Detection: Outliers, Message Passing and Hyperbolic Neural Networks

Jing Gu, Dongmian Zou|arXiv (Cornell University)|Mar 6, 2024

Anomaly Detection Techniques and Applications被引用 4

一句话总结

本文通過引入圖感知異常注入方法，重新探討節點級圖異常檢測，挑戰圖神經網絡中訊息傳播的必要性，並提出具備專用架構與損失函數的雙曲神經網絡。實驗表明，特別是基于Poincaré的雙曲模型顯著優於歐幾里得與Lorentz對應模型，在Squirrel數據集上使用path+DICE異常時，AUC最高達43.6%；而訊息傳播模型因異常污染導致表現欠佳。

ABSTRACT

Graph anomaly detection plays a vital role for identifying abnormal instances in complex networks. Despite advancements of methodology based on deep learning in recent years, existing benchmarking approaches exhibit limitations that hinder a comprehensive comparison. In this paper, we revisit datasets and approaches for unsupervised node-level graph anomaly detection tasks from three aspects. Firstly, we introduce outlier injection methods that create more diverse and graph-based anomalies in graph datasets. Secondly, we compare methods employing message passing against those without, uncovering the unexpected decline in performance associated with message passing. Thirdly, we explore the use of hyperbolic neural networks, specifying crucial architecture and loss design that contribute to enhanced performance. Through rigorous experiments and evaluations, our study sheds light on general strategies for improving node-level graph anomaly detection methods.

研究动机与目标

• 為解決基準GAD數據集中缺乏全面、圖資訊驅動的異常注入方法的問題。
• 探討圖神經網絡中的訊息傳播是否對無監督節點級異常檢測有益。
• 探討利用層次化圖結構，雙曲神經網絡在提升異常檢測性能方面的潛力。
• 設計適用於雙曲GAD的專用架構與損失函數，以提升性能。

提出的方法

• 提出新的異常注入技術，基於圖結構與上下文生成異常，提升異常的多樣性與真實感。
• 採用對比評估框架，比較訊息傳播GNN與非訊息傳播模型（包括Transformer）。
• 引入使用Poincaré與Lorentz模型的雙曲神經網絡架構，用於節點表徵學習。
• 設計專用損失函數，提升雙曲空間中正常節點與異常節點的分離效果。
• 應用對數與指數映射，實現雙曲空間中的基於注意力的Transformer機制。
• 在自編碼器框架中應用基於重構的異常得分方法，並對雙曲幾何進行相應修改。

实验结果

研究问题

• RQ1 圖感知異常注入方法如何提升基準數據集中異常的多樣性與真實感？
• RQ2 圖神經網絡中的訊息傳播是否在無監督節點級圖異常檢測中穩定提升性能？
• RQ3 具備合適架構設計的雙曲神經網絡是否能在GAD中超越歐幾里得與Lorentz模型？
• RQ4 專用損失函數在提升雙曲空間中異常檢測性能方面發揮何種作用？
• RQ5 如Transformer等基於注意力的模型在雙曲空間中執行GAD任務時表現如何？

主要发现

• 基於Poincaré的模型在Squirrel數據集上使用path+DICE異常時，AUC達43.6%，優於所有基線模型。
• 訊息傳播GNN在接觸注入異常後表現下降，表明訊息傳播可能放大異常帶來的噪聲。
• Poincaré模型在Amazon數據集上使用path+DICE異常時，AUC達89.3%，遠超歐幾里得模型（85.4%）與Lorentz模型（78.0%）。
• 雙曲空間中的基於Transformer的模型（Poincaré）在Amazon數據集上使用DICE異常時，AP達55.5%，遠超歐幾里得基線的38.8%。
• Lorentz模型在所有數據集中表現均欠佳，表明其在優化與表徵能力方面存在局限性，適用於GAD任務。
• 所提出的異常注入方法產生了更具多樣性與圖資訊驅動的異常，使GAD方法的評估更具魯棒性。