[논문 리뷰] From Unsupervised to Few-shot Graph Anomaly Detection: A Multi-scale Contrastive Learning Approach

Yu Zheng, Ming Jin외 4명|arXiv (Cornell University)|2022. 02. 11.

Anomaly Detection Techniques and Applications인용 수 10

한 줄 요약

이 논문은 그래프 이상 탐지에 대한 다중 척도 대비 학습 프레임워크인 ANEMONE을 제안한다. 이는 그래프 신경망을 사용하여 노드 수준(패치) 및 부분그래프 수준(컨텍스트) 표현을 동시에 모델링한다. 다양한 시각 간의 일치를 최대화하고, 소수의 레이블된 이상 데이터를 ANEMONE-FS를 통해 통합함으로써, 6개의 벤치마크 데이터셋에서 최신 기술(SOTA) 성능을 달성하였으며, 단일 레이블된 이상 데이터로 최대 1.16%의 AUC 향상을 기록하였다.

ABSTRACT

Anomaly detection from graph data is an important data mining task in many applications such as social networks, finance, and e-commerce. Existing efforts in graph anomaly detection typically only consider the information in a single scale (view), thus inevitably limiting their capability in capturing anomalous patterns in complex graph data. To address this limitation, we propose a novel framework, graph ANomaly dEtection framework with Multi-scale cONtrastive lEarning (ANEMONE in short). By using a graph neural network as a backbone to encode the information from multiple graph scales (views), we learn better representation for nodes in a graph. In maximizing the agreements between instances at both the patch and context levels concurrently, we estimate the anomaly score of each node with a statistical anomaly estimator according to the degree of agreement from multiple perspectives. To further exploit a handful of ground-truth anomalies (few-shot anomalies) that may be collected in real-life applications, we further propose an extended algorithm, ANEMONE-FS, to integrate valuable information in our method. We conduct extensive experiments under purely unsupervised settings and few-shot anomaly detection settings, and we demonstrate that the proposed method ANEMONE and its variant ANEMONE-FS consistently outperform state-of-the-art algorithms on six benchmark datasets.

연구 동기 및 목표

• 실제 그래프에서 복잡한 다중 수준의 이상 패턴을 포착하지 못하는 기존 그래프 이상 탐지 방법이 단일 척도 표현에 의존하는 한계를 해결한다.
• 소수의 진짜 이상 데이터가 존재하는 상황에서 순수하게 비지도 방법이 효과적이지 못함을 극복하기 위해, 학습 과정에 소수의 레이블된 데이터를 통합한다.
• 패치(노드) 및 컨텍스트(부분그래프) 수준에서 대비 학습을 통해 표현 학습을 향상시키는 통합적이고 유연한 프레임워크를 개발한다.
• 여러 대비 라운드에 걸친 다중 시각 간의 일치를 활용하여 이상도 추정을 향상시키는 통계적 이상도 추정기 설계.
• 다양한 실제 그래프 데이터셋에서 순수 비지도 및 소수의 레이블이 있는 설정 모두에서 제안된 방법의 유효성을 입증한다.

제안 방법

• 노드(패치) 및 부분그래프(컨텍스트) 수준에서 다양한 증강 전략을 적용하여 다중 그래프 시각을 구성함으로써, 다중 척도의 구조적 및 특징 정보를 포착한다.
• 노드와 그 주변 부분그래프의 임베딩을 위해 두 개의 별도된 GNN 인코더를 사용하여 국소적 및 전역적 표현의 공동 학습을 가능하게 한다.
• 패치 및 컨텍스트 수준에서 양성 및 음성 인스턴스 쌍을 구성하여 대비 학습을 수행함으로써, 양성 쌍 간의 유사도를 최대화하고 음성 쌍 간의 유사도를 최소화한다.
• 여러 라운드에서 유도된 대비 점수를 통계적 이상도 추정기로 통합하여, 다양한 시각 간의 일치 정도에 기반한 최종 이상도를 계산한다.
• 소수의 레이블된 이상 데이터를 대비 학습 목표에 통합하여 ANEMONE를 ANEMONE-FS로 확장함으로써 표현 학습을 정교화한다.
• 패치 수준 및 컨텍스트 수준의 대비 손실을 가중 조합하여 모델을 최적화하며, 두 구성 요소를 균형 잡는 가속 가능한 하이퍼파라미터 α를 사용한다.

실험 결과

연구 질문

• RQ1 패치 및 컨텍스트 수준에서의 다중 척도 대비 학습은 단일 척도 방법에 비해 그래프 이상 탐지의 노드 표현 품질을 향상시키는가?
• RQ2 국소적 및 전역적 구조 패턴을 동시에 모델링함으로써, 복잡한 그래프 데이터에서 이상 탐지 성능에 어떤 영향을 미치는가?
• RQ3 소수의 레이블된 이상 데이터(소수의 레이블)가 순수하게 비지도 이상 탐지 프레임워크의 성능을 어느 정도 향상시킬 수 있는가?
• RQ4 평가 라운드 수 R, 부분그래프 크기 K, 은닉 차원 D 등 핵심 하이퍼파라미터에 대해 제안된 방법의 민감도는 어떠한가?
• RQ5 여러 라운드의 대비 일치를 기반으로 한 제안된 통계적 이상도 추정기는 복구 기반 또는 단일 시각 대비 방법에 비해 더 견고하고 정확한 이상도를 제공하는가?

주요 결과

• ANEMONE는 순수 비지도 설정에서 6개의 벤치마크 데이터셋 전반에서 최신 기술(SOTA) 성능을 달성하였으며, 모든 데이터셋에서 AUC 측면에서 기존 SOTA 방법을 능가하였다.
• ANEMONE-FS는 소수의 레이블된 이상 데이터로도 뚜렷한 성능 향상을 보였으며, 단 한 개의 레이블된 이상 데이터로도 ACM 데이터셋에서 1.16%의 AUC 향상을 기록하였다.
• 패치 수준과 컨텍스트 수준의 대비 학습 간 최적의 균형은 α = 0.2에서 α = 0.8 사이에 위치하며, 한쪽 수준에만 의존할 경우 성능 저하가 발생함으로써 상호 보완적 이점이 있음을 시사한다.
• 모델은 부분그래프 크기 K에 대해 강건하며, 인용 네트워크에서는 K = 3–5에서 최고 성능을 기록했고, 더 높은 밀도의 네트워크인 BlogCatalog에서는 더 큰 K 값에서 성능이 뛰어났다.
• 평가 라운드 수 R이 256까지 증가함에 따라 성능 향상이 지속되었고, 이후에는 성능 향상이 정체되며 계산 비용이 증가함을 고려할 때, R = 256를 균형 잡힌 선택으로 정당화할 수 있다.
• 은닉 차원 D′ = 64가 표현 능력과 성능 간 최적의 트레이드오프를 제공하며, D′ = 64를 초과하면 수익 감소 현상이 나타난다.