[논문 리뷰] SpecAE: Spectral AutoEncoder for Anomaly Detection in Attributed Networks

Yuening Li, Xiao Huang외 3명|arXiv (Cornell University)|2019. 08. 11.

Anomaly Detection Techniques and Applications참고 문헌 23인용 수 12

한 줄 요약

SpecAE는 그래프 컨볼루션과 디컨볼루션을 통해 전역 및 커뮤니티 수준의 노드 표현을 동시에 학습하고 라플라시안 샤프닝을 적용하여 이상치의 분리 가능성을 향상시킴으로써 속성 부여된 네트워크에서 이상 탐지용 스펙트럼 오토에인코더 프레임워크를 제안한다. 재구성 오차와 가우시안 믹스처 모델을 통한 밀도 추정을 통합함으로써 최신 기술 수준의 성능을 달성하며, 실제 데이터셋에서 기존 방법들을 능가한다.

ABSTRACT

Anomaly detection aims to distinguish observations that are rare and different from the majority. While most existing algorithms assume that instances are i.i.d., in many practical scenarios, links describing instance-to-instance dependencies and interactions are available. Such systems are called attributed networks. Anomaly detection in attributed networks has various applications such as monitoring suspicious accounts in social media and financial fraud in transaction networks. However, it remains a challenging task since the definition of anomaly becomes more complicated and topological structures are heterogeneous with nodal attributes. In this paper, we propose a spectral convolution and deconvolution based framework -- SpecAE, to project the attributed network into a tailored space to detect global and community anomalies. SpecAE leverages Laplacian sharpening to amplify the distances between representations of anomalies and the ones of the majority. The learned representations along with reconstruction errors are combined with a density estimation model to perform the detection. They are trained jointly as an end-to-end framework. Experiments on real-world datasets demonstrate the effectiveness of SpecAE.

연구 동기 및 목표

• 노드가 복잡한 위상적 구조와 이질적인 속성을 나타내는 속성 부여된 네트워크에서 이상 탐지 문제를 다루기 위해.
• 동질성 기반 임베딩 방법의 한계를 극복하여 표현을 과도하게 평탄화하고 이상 노드를 가림으로써 발생하는 문제를 해결하기 위해.
• 위상적 구조와 노드 속성을 함께 모델링하여 이상치의 구별 가능성을 향상시키기 위해.
• 표현 학습, 재구성, 밀도 추정을 통합한 통합형 엔드 투 엔드 프레임워크를 개발하기 위해.
• 실제 속성 부여된 네트워크 데이터셋에서 제안된 방법의 효과성을 검증하기 위해.

제안 방법

• SpecAE는 네트워크 위상과 노드 속성을 기반으로 저차원의 노드 표현을 학습하기 위해 그래프 컨볼루션 및 디컨볼루션 레이어를 포함한 스펙트럼 오토에인코더 아키텍처를 활용한다.
• 그래프 컨볼루션과 보완적인 학습 메커니즘으로서, 위상적 관계로부터 노드 속성을 재구성하기 위한 새로운 그래프 디컨볼루션 연산을 도입한다.
• 이상 노드 표현과 정상 노드 표현 간의 거리를 증폭하기 위해 라플라시안 샤프닝을 적용하여 이상치 식별 가능성을 향상시킨다.
• 노드 표현과 재구성 오차를 동시에 학습하고, 이를 가우시안 믹스처 모델(GMM)에 입력하여 기반 밀도 기반 이상 탐지 점수를 산출한다.
• 전체 시스템은 엔드 투 엔드로 훈련되어 표현 학습과 이상 탐지의 공동 최적화를 가능하게 한다.
• 이 방법은 전역 이상(네트워크 전반에서 드문 속성)과 커뮤니티 이상(지역 커뮤니티 내에서 이탈한 노드)을 모두 탐지할 수 있다.

실험 결과

연구 질문

• RQ1 전역 및 커뮤니티 수준의 이탈을 고려할 때, 속성 부여된 네트워크에서 이상을 공식적으로 정의할 수 있는 방법은 무엇인가?
• RQ2 동질성 가정으로 인한 과도한 평탄화를 피하면서도 위상적 구조와 노드 속성을 함께 모델링하여 이상치의 가시성을 유지할 수 있는 방법은 무엇인가?
• RQ3 재구성 오차와 맞춤형 표현 학습이 이상 탐지 성능에 미치는 영향는 어떠한가?
• RQ4 라플라시안 샤프닝은 이상 노드 표현과 정상 노드 표현 간의 분리도를 어떻게 향상시키는가?
• RQ5 스펙트럼 오토에인코딩, 디컨볼루션 및 밀도 추정을 통합한 통합형 엔드 투 엔드 프레임워크는 기존 최신 기술 수준의 방법들을 능가할 수 있는가?

주요 결과

• 최적의 하이퍼파rameter α = 0.7을 사용할 경우, Cora 데이터셋에서 SpecAE는 77.15%의 F1 스코어를 기록하며, 분석된 변형보다 유의미하게 뛰어난 성능을 보였다.
• 커뮤니티 수준의 표현을 제거한 경우(SpecAE-N) AUC가 15% 감소하여, 이상 탐지에서 맥락 인식 표현의 핵심적 역할을 입증하였다.
• 재구성 구성 요소를 제거한 경우(SpecAE-nr) AUC가 27% 감소하여, 재구성 오차가 이상 탐지에 필수적인 지표임을 확인하였다.
• 제거 실험 결과, 전체 SpecAE 모델이 모든 변형보다 뛰어난 성능을 보여, 프레임워크 내 모든 구성 요소가 상호 보완적인 효과를 발휘함을 시사하였다.
• PolBlog 데이터셋에 대한 사례 연구에서는, 이상 노드가 주로 정치적 주제에서 벗어난 키워드 콘텐츠를 가지며 정상 노드와의 이탈을 보여, 모델의 해석 가능성과 타당성을 검증하였다.
• Pubmed 데이터셋에서도 유사한 성능 추세를 관찰하여, SpecAE가 다양한 속성 부여된 네트워크 구조에서 뛰어난 강건성을 보임을 확인하였다.