[논문 리뷰] Reconstruction Enhanced Multi-View Contrastive Learning for Anomaly Detection on Attributed Networks

Jiaqiang Zhang, Senzhang Wang외 1명|arXiv (Cornell University)|2022. 05. 10.

Advanced Graph Neural Networks인용 수 9

한 줄 요약

이 논문은 다중 시각 대비 학습 모듈과 속성 재구성 모듈을 동시에 최적화하는 자기지도 학습 프레임워크인 Sub-CR를 제안한다. 하위그래프 기반의 시각을 통해 국소적이고 전역적인 구조적 정보를 분리하고, 마스킹된 오토인코더를 통해 이웃 노드 간의 속성 일관성을 활용함으로써, Sub-CR는 다섯 개인 기준 데이터셋에서 최신 기술 수준(SOTA) 성능을 달성하며 기존 방법들보다 뚜렷한 성능 향상을 보였다.

ABSTRACT

Detecting abnormal nodes from attributed networks is of great importance in many real applications, such as financial fraud detection and cyber security. This task is challenging due to both the complex interactions between the anomalous nodes with other counterparts and their inconsistency in terms of attributes. This paper proposes a self-supervised learning framework that jointly optimizes a multi-view contrastive learning-based module and an attribute reconstruction-based module to more accurately detect anomalies on attributed networks. Specifically, two contrastive learning views are firstly established, which allow the model to better encode rich local and global information related to the abnormality. Motivated by the attribute consistency principle between neighboring nodes, a masked autoencoder-based reconstruction module is also introduced to identify the nodes which have large reconstruction errors, then are regarded as anomalies. Finally, the two complementary modules are integrated for more accurately detecting the anomalous nodes. Extensive experiments conducted on five benchmark datasets show our model outperforms current state-of-the-art models.

연구 동기 및 목표

• 이상이 구조적 이심과 속성 불일치에서 기인하는 속성 네트워크에서의 이상 탐지 문제를 해결하기 위해.
• 기존 방법들이 국소적이고 전역적인 구조적 정보를 효과적으로 분리하거나 활용하지 못하는 한계를 극복하기 위해.
• 이웃 노드 간의 속성 일관성에서 유도되는 자기지도 신호를 활용하여 이상 탐지 성능을 향상시키기 위해.
• 다중 시각 대비 학습과 재구성 기반 학습을 통합한 통합 프레임워크를 설계하여 표현 학습 성능을 향상시키기 위해.

제안 방법

• 그래프 확산과 하위그래프 샘플링을 통해 국소적 및 전역적 시각을 생성함으로써 상호 보완적인 구조적 정보를 포착한다.
• 이중 시각 대비 학습 모듈이 내부 및 외부 시각 간의 노드 및 하위그래프 표현 간의 일치를 최대화하여 분류 가능한 특징 학습을 강화한다.
• 속성 재구성 모듈은 이웃 기반 표현을 사용하여 각 타겟 노드의 원본 속성을 재구성하며, 높은 재구성 오차를 통해 이상 노드를 식별한다.
• 대비 및 재구성 모듈을 학습 가능한 가중치 γ를 통해 통합하여 두 목적을 함께 최적화한다.
• 재구성 모듈에서 마스킹된 오토인코더를 사용하여 이웃 노드 간의 속성 일관성을 강제한다.
• GCN 기반 인코더를 사용하여 노드 및 하위그래프 표현을 추출하며, 하위그래프 크기와 임bedding 차원을 최적 성능을 위해 조정한다.

실험 결과

연구 질문

• RQ1 국소적 및 전역적 구조적 정보를 분리함으로써 속성 네트워크에서 이상 탐지 성능을 향상시킬 수 있는가?
• RQ2 이웃 일관성 기반의 속성 재구성은 이상 노드 식별에 얼마나 효과적인가?
• RQ3 이상 탐지에서 다중 시각 대비 학습과 재구성 기반 학습 간의 상대적 기여도는 어떠한가?
• RQ4 하위그래프 크기, 임bedding 차원, 가중치 γ와 같은 하이퍼파라미터가 모델 성능에 미치는 영향은 어떠한가?
• RQ5 대비 및 재구성 목적을 통합한 통합 자기지도 학습 프레임워크는 기존 최신 기술 수준(SOTA) 방법을 초월할 수 있는가?

주요 결과

• Sub-CR는 다섯 개의 기준 데이터셋에서 최신 기술 수준(SOTA) 성능을 달성하며, 기존 SOTA 모델들보다 뚜렷한 성능 향상을 보였다.
• 대비 모듈이 없는 버전 대비 Pubmed에서 AUC가 17.03% 향상되었고, CiteSeer에서는 14.11% 향상되었다.
• 제거 실험 결과, 대비 모듈과 재구성 모듈 모두 필수적이며, 특히 대비 모듈이 성능 향상에 가장 큰 기여를 했다.
• 최적의 하위그래프 크기는 Flickr와 CiteSeer에서는 P=2, BlogCatalog, Cora, Pubmed에서는 P=4로, 데이터 특성에 민감함을 보였다.
• γ ≥ 0.4인 경우에 모델이 강건하며, 모든 데이터셋에서 γ ≥ 0.4에서 최고 성능을 기록했다.
• 대부분의 데이터셋에서 d=64의 임bedding 차원이 최적 성능을 보였으며, 더 작은 값이나 더 큰 값에서는 성능 저하가 관찰되었다.