[논문 리뷰] Three Revisits to Node-Level Graph Anomaly Detection: Outliers, Message Passing and Hyperbolic Neural Networks

Jing Gu, Dongmian Zou|arXiv (Cornell University)|2024. 03. 06.

Anomaly Detection Techniques and Applications인용 수 4

한 줄 요약

이 논문은 그래프 인식 이상 탐지 기법을 재검토하며, 메시지 전달의 필요성을 도전하고, 특수 설계된 아키텍처와 손실 함수를 갖춘 쌍곡선 신경망을 제안한다. 그래프 인식 이상 탐지 기법을 도입하여, 특히 포이카레 기반 모델이 유클리드 및 로렌츠 모델보다 뚜렷이 뛰어난 성능을 보이며, Squirrel 데이터셋에서 경로+DICE 이상 탐지 시 최대 43.6%의 ROC-AUC를 기록한다. 반면 메시지 전달 기반 모델은 이상 탐지로 인해 성능 저하를 보이며, 이는 이상치에 의한 노이즈 증폭을 암시한다.

ABSTRACT

Graph anomaly detection plays a vital role for identifying abnormal instances in complex networks. Despite advancements of methodology based on deep learning in recent years, existing benchmarking approaches exhibit limitations that hinder a comprehensive comparison. In this paper, we revisit datasets and approaches for unsupervised node-level graph anomaly detection tasks from three aspects. Firstly, we introduce outlier injection methods that create more diverse and graph-based anomalies in graph datasets. Secondly, we compare methods employing message passing against those without, uncovering the unexpected decline in performance associated with message passing. Thirdly, we explore the use of hyperbolic neural networks, specifying crucial architecture and loss design that contribute to enhanced performance. Through rigorous experiments and evaluations, our study sheds light on general strategies for improving node-level graph anomaly detection methods.

연구 동기 및 목표

• 기준 GAD 데이터셋에서 종합적이고 그래프 기반의 이상 탐지 기법이 부족한 문제를 해결하기 위해.
• GNN 내 메시지 전달이 비지도 노드 수준 이상 탐지에 유익한지 조사하기 위해.
• 계층적 그래프 구조를 활용해 쌍곡선 신경망의 잠재력을 탐색하기 위해.
• 쌍곡선 GAD에 적합한 특수 아키텍처와 손실 함수를 설계하여 성능 향상시키기 위해.

제안 방법

• 그래프 구조와 맥락에 기반한 이상 탐지 기반의 새로운 이상 탐지 기법을 제안하여 다양성과 현실성 향상을 도모한다.
• 메시지 전달 GNN과 비메시지 전달 모델(예: 트랜스포머 포함)을 대비하여 평가하는 비교 평가 프레임워크를 활용한다.
• 노드 표현 학습을 위한 포이카레 및 로렌츠 모델을 사용한 쌍곡선 신경망 아키텍처를 도입한다.
• 쌍곡선 공간에서 정상 노드와 이상 노드 간의 분리 성능을 향상시키기 위해 특수 설계된 손실 함수를 설계한다.
• 쌍곡선 공간에서 트랜스포머 기반 어텐션 메커니즘을 가능하게 하기 위해 로그 및 지수 매핑을 적용한다.
• 쌍곡선 기하학을 처리할 수 있도록 수정한 오토에인코더 프레임워크를 기반으로 재구성 기반 이상 탐지 점수를 적용한다.

실험 결과

연구 질문

• RQ1 그래프 인식 이상 탐지 기법은 기준 데이터셋에서 이상 탐지의 다양성과 현실성에 어떻게 기여하는가?
• RQ2 GNN 내 메시지 전달은 비지도 노드 수준 그래프 이상 탐지에서 일관되게 성능 향상에 기여하는가?
• RQ3 적절한 아키텍처 설계를 갖춘 쌍곡선 신경망은 GAD에서 유클리드 및 로렌츠 기반 모델보다 뛰어난 성능을 내는가?
• RQ4 특수 설계된 손실 함수는 쌍곡선 공간에서 이상 탐지 성능 향상에 어떤 역할을 하는가?
• RQ5 어텐션 기반 모델(예: 트랜스포머)은 쌍곡선 공간에서 GAD 작업에 대해 어떻게 성능을 내는가?

주요 결과

• 포이카레 기반 모델은 경로+DICE 이상 탐지 시 Squirrel 데이터셋에서 43.6%의 ROC-AUC를 기록하며, 모든 베이스라인을 압도한다.
• 메시지 전달 GNN은 삽입된 이상 탐지로 인해 성능 저하를 보이며, 이는 메시지 전달이 이상 탐지에서 발생하는 노이즈를 증폭시킬 수 있음을 시사한다.
• 포이카레 모델은 경로+DICE 이상 탐지 시 Amazon 데이터셋에서 89.3%의 ROC-AUC를 기록하며, 유클리드(85.4%) 및 로렌츠(78.0%) 모델보다 뚜렷이 뛰어나다.
• 쌍곡선 공간에서 트랜스포머 기반 모델(포이카레)은 DICE 이상 탐지 시 Amazon 데이터셋에서 55.5%의 AP를 기록하며, 유클리드 기반 베이스라인(38.8%)을 크게 앞서간다.
• 로렌츠 모델은 모든 데이터셋에서 성능이 열등하여, GAD에 대한 최적화 및 표현 능력에 한계가 있음을 시사한다.
• 제안된 이상 탐지 기법은 더 다양한 그래프 기반 이상 탐지를 생성하여 GAD 기법의 더 견고한 평가를 가능하게 하였다.