[논문 리뷰] Semi-supervised Anomaly Detection on Attributed Graphs

Atsutoshi Kumagai, Tomoharu Iwata외 1명|arXiv (Cornell University)|2020. 02. 27.

Anomaly Detection Techniques and Applications참고 문헌 51인용 수 5

한 줄 요약

이 논문은 정점 속성과 그래프 구조를 통합하여 정상 인스턴스를 둘러싸는 초구체의 부피를 최소화하고 이상치는 외부로 밀어내는 방식으로 정상 노드 임베딩을 학습하는 반감독 이상 탐지 방법을 제안한다. 이 방법은 극심한 클래스 불균형 상황에서도 그래프 구조, 정점 속성, 제한된 레이블 데이터를 효과적으로 통합하여 다섯 개인 실세계 데이터셋에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

We propose a simple yet effective method for detecting anomalous instances on an attribute graph with label information of a small number of instances. Although with standard anomaly detection methods it is usually assumed that instances are independent and identically distributed, in many real-world applications, instances are often explicitly connected with each other, resulting in so-called attributed graphs. The proposed method embeds nodes (instances) on the attributed graph in the latent space by taking into account their attributes as well as the graph structure based on graph convolutional networks (GCNs). To learn node embeddings specialized for anomaly detection, in which there is a class imbalance due to the rarity of anomalies, the parameters of a GCN are trained to minimize the volume of a hypersphere that encloses the node embeddings of normal instances while embedding anomalous ones outside the hypersphere. This enables us to detect anomalies by simply calculating the distances between the node embeddings and hypersphere center. The proposed method can effectively propagate label information on a small amount of nodes to unlabeled ones by taking into account the node's attributes, graph structure, and class imbalance. In experiments with five real-world attributed graph datasets, we demonstrate that the proposed method achieves better performance than various existing anomaly detection methods.

연구 동기 및 목표

• 희귀한 이상치와 부족한 레이블을 가진 정점 속성 그래프에서 이상 탐지 문제를 해결하기 위해.
• 반감독 설정에서 그래프 구조와 정점 속성을 활용하여 탐지 성능을 향상시키기 위해.
• 클래스 불균형 하에서 일종의 이상 탐지에 특화된 분류 가능한 노드 임베딩을 학습하는 방법을 개발하기 위해.
• GCN과 새로운 AUC 기반 정규화자를 사용하여 제한된 레이블 정보를 그래프 전반에 효과적으로 전파할 수 있도록 하기 위해.

제안 방법

• 이 방법은 그래프 컬러리션 네트워크(GCNs)를 사용하여 정점 속성과 그래프 구조를 통합해 잠재 공간에 정점 임베딩을 생성한다.
• 정상 노드 임베딩을 둘러싸는 초구체의 부피를 최소화하도록 GCN 파라미터를 학습함으로써 정상 클래스 표현의 밀도를 높인다.
• 이상치 노드는 AUC 기반 손실을 정규화자로 사용하여 초구체 외부로 밀어내지 않도록 한다.
• 초구체의 밀도와 이상치 간의 분리가 동시에 최적화되어 일종의 이상 탐지 분류가 효과적으로 가능해진다.
• 노드 임베딩은 초구체 중심으로부터의 거리 기반으로 이상 탐지에 사용되며, 복잡한 재구성 또는 생성 모델링이 필요 없다.
• 정상 및 이상 레이블이 모두 존재할 경우(Ours-AN) 또는 정상 레이블만 존재할 경우(Ours-N)에 훈련하여 다양한 설정에서의 강건성을 입증한다.

실험 결과

연구 질문

• RQ1 제한된 레이블 데이터를 가진 정점 속성 그래프에서 그래프 구조와 정점 속성을 활용하는 반감독 접근법이 이상 탐지 성능을 향상시킬 수 있는가?
• RQ2 제안된 초구체 기반 임베딩 목표가 이상 탐지에서 극심한 클래스 불균형을 다룰 때 기존 방법과 비교해 어떻게 성능을 냈는가?
• RQ3 AUC 기반 정규화자를 통합할 경우 정점 속성 그래프에서 희귀한 이상치 탐지 성능이 얼마나 향상되는가?
• RQ4 임베딩 차원 수와 정규화 하이퍼파rameter의 변화에 대해 이 방법은 얼마나 강건한가?

주요 결과

• 정상 및 이상 레이블이 모두 사용된 경우(Ours-AN)는 다섯 개인 실세계 정점 속성 그래프 데이터셋에서 평균 테스트 AUC 기준 15개의 베이스라인 중 13개를 초월했다.
• 정상 레이블만 사용하는 Ours-N는 모든 데이터셋에서 DOC-N 및 DW보다 뛰어난 성능을 보였으며, 순수 반감독 설정에서도 효과성을 입증했다.
• 이 방법은 하이퍼파rameter 선택에 대해 강건했다: Ours-AN은 다양한 AUC 정규화 가중치(λ) 범위에서 높은 성능 유지하였으며, 최적의 λ는 데이터셋에 따라 달라졌다.
• 임베딩 차원 수(K)는 성능에 거의 영향을 주지 않았으며, Ours-AN은 모든 테스트된 K 값에서 모든 베이스라인을 뛰어넘었다.
• 훈련 시간은 효율적이었으며, Ours-AN은 Cora(10% 레이블)에서 500 에포크를 4.92초 만에 완료하여 실용적인 확장성을 보였다.
• t-SNE 시각화 결과 Ours-AN이 베이스라인보다 더 분류 가능한 정점 임베딩을 학습했으며, 정상 및 이상 인스턴스 간에 명확한 분리가 이루어졌음을 확인했다.