[논문 리뷰] Graph Anomaly Detection via Multi-Scale Contrastive Learning Networks with Augmented View

Jingcan Duan, Siwei Wang외 6명|arXiv (Cornell University)|2022. 12. 01.

Advanced Graph Neural Networks인용 수 9

한 줄 요약

이 논문은 간선 수정을 통한 그래프 증강 방식을 적용한 다중 시각 설정에서 하위그래프-하위그래프 대비를 도입함으로써 다중 척도 대비 학습을 향상시키는 그래프 이상 탐지 프레임워크 GRADATE를 제안한다. 노드-하위그래프, 노드-노드, 하위그래프-하위그래프 대비를 동시에 최적화함으로써 GRADATE는 여섯 개의 벤치마크 데이터셋에서 최신 기술 수준(SOTA) 성능을 달성하였으며, UAI2010에서 AUC가 최대 92.62% 향상되었고, Cora에서 92.37% 향상되었다.

ABSTRACT

Graph anomaly detection (GAD) is a vital task in graph-based machine learning and has been widely applied in many real-world applications. The primary goal of GAD is to capture anomalous nodes from graph datasets, which evidently deviate from the majority of nodes. Recent methods have paid attention to various scales of contrastive strategies for GAD, i.e., node-subgraph and node-node contrasts. However, they neglect the subgraph-subgraph comparison information which the normal and abnormal subgraph pairs behave differently in terms of embeddings and structures in GAD, resulting in sub-optimal task performance. In this paper, we fulfill the above idea in the proposed multi-view multi-scale contrastive learning framework with subgraph-subgraph contrast for the first practice. To be specific, we regard the original input graph as the first view and generate the second view by graph augmentation with edge modifications. With the guidance of maximizing the similarity of the subgraph pairs, the proposed subgraph-subgraph contrast contributes to more robust subgraph embeddings despite of the structure variation. Moreover, the introduced subgraph-subgraph contrast cooperates well with the widely-adopted node-subgraph and node-node contrastive counterparts for mutual GAD performance promotions. Besides, we also conduct sufficient experiments to investigate the impact of different graph augmentation approaches on detection performance. The comprehensive experimental results well demonstrate the superiority of our method compared with the state-of-the-art approaches and the effectiveness of the multi-view subgraph pair contrastive strategy for the GAD task.

연구 동기 및 목표

• 기존 그래프 이상 탐지 방법들이 다루지 못하는 잠재력이 있는 하위그래프-하위그래프 대비 학습의 한계를 해결한다.
• 그래프의 다중 시각에서 다중 척도 대비 학습을 통합함으로써 노드 수준 및 하위그래프 수준의 이상 탐지 성능을 향상시킨다.
• 특히 간선 수정을 포함한 다양한 그래프 증강 전략이 이상 탐지에서 대비 학습 성능에 미치는 영향을 조사한다.
• 노드-하위그래프, 노드-노드, 하위그래프-하위그래프 대비를 유기적으로 통합하여 탐지의 강건성과 정확도를 향상시키는 통합 프레임워크를 개발한다.

제안 방법

• 입력 그래프의 두 시각을 구성한다: 첫 번째 시각으로 원본 그래프, 두 번째 시각으로 간선 수정을 통해 생성된 변형 그래프.
• 랜덤 워크 리스타트를 사용하여 두 시각에서 하위그래프를 샘플링함으로써 하위그래프 수준의 표현 학습을 가능하게 한다.
• 세 가지 대비 학습 헤드를 구현한다: 노드-하위그래프, 노드-노드, 하위그래프-하위그래프 대비이며, 후자는 특히 두 시각 간 하위그래프 표현을 정렬하기 위해 설계되었다.
• 학습 가능한 가중치 파라미터 α, β, γ를 포함한 가중치 손실 함수를 사용하여 세 가지 대비 목적함수를 동시에 최적화한다.
• 각 대비 목적함수 하에서 노드, 하위그래프, 주변 표현을 인코딩하기 위해 그래프 신경망(GNNs)을 활용한다.
• 모든 대비 브랜치의 표현을 조합하여 각 노드의 이상도 점수를 집계함으로써 탐지 신뢰도를 향상시킨다.

실험 결과

연구 질문

• RQ1 기존의 노드 수준 및 하위그래프 수준의 대비와 비교해 볼 때, 하위그래프-하위그래프 대비를 도입함으로써 그래프 이상 탐지 성능는 어떻게 향상되는가?
• RQ2 다중 시각 대비 학습을 통한 GAD 환경에서, 특성 흐리기 또는 간선 수정 중 어느 증강 전략이 더 높은 성능을 내는가?
• RQ3 각 대비 목적함수(노드-하위그래프, 노드-노드, 하위그래프-하위그래프)가 전체 탐지 성능에 기여하는 상대적 기여도는 어떠한가?
• RQ4 모델 성능이 균형 가중치 α, β, γ 및 간선 수정 비율 P와 같은 하이퍼파rameter에 얼마나 민감한가?
• RQ5 제안된 다중 시각, 다중 척도 대비 학습 프레임워크는 다양한 실세계 그래프 데이터셋에 대해 이상 특성이 상이한 경우에도 효과적으로 일반화될 수 있는가?

주요 결과

• 하위그래프-하위그래프 대비의 통합은 성능 향상에 크게 기여하며, GRADATE는 UAI2010 데이터셋에서 AUC 0.9262를 달성하여 기준 모델 NS+NN(0.8731)을 초월하였다.
• 모든 데이터셋에서 간선 수정이 증강 방법으로서 가장 높은 성능을 보였으며, Citation에서 AUC 0.8138, Cora에서 0.9237을 기록하여 특성 기반 증강인 GNF 및 FM을 능가하였다.
• 제거 분석 결과, 세 가지 대비 목적함수를 모두 통합한 NS+NN+SS 조합이 가장 높은 성능을 보였으며, 노드-하위그래프 전용 기준 모델 대비 평균 AUC 2.5% 향상되었다.
• 하위그래프-하위그래프 대비에 대한 최적의 균형 가중치 γ는 모든 데이터셋에서 0.1로 확인되었으며, 이는 이 대비 신호가 중간 정도의 가중치로 설정되었을 때 가장 효과적임을 시사한다.
• 간선 수정 비율 P가 0.1에서 0.3 범위에서 변할 때 성능에 최소한의 변동이 관찰되어, 이 방법의 강건성이 뒷받침됨을 확인하였다.
• 민감도 분석 결과, α와 β는 성능에 상당한 영향을 미치며, EAT에서는 최적 값이 α=0.9, β=0.3이고, UAI2010에서는 α=0.7, β=0.5로 확인되어 하이퍼파rameter 조정의 중요성을 입증하였다.