[논문 리뷰] AnomalyDAE: Dual autoencoder for anomaly detection on attributed networks

Haoyi Fan, Fengbin Zhang외 1명|arXiv (Cornell University)|2020. 02. 10.

Network Security and Intrusion Detection참고 문헌 20인용 수 12

한 줄 요약

AnomalyDAE는 별도의 구조 및 속성 자동에코드를 통해 동시에 노드 및 속성 임베딩을 학습하고, 주목사용 구조 인코딩과 교차 모odal 재구성 기능을 갖춘 이중 자동에코드 프레임워크를 제안하여 속성 부여 네트워크에서 이상 탐지 문제를 해결한다. 이는 기존 방법 대비 최대 22.32% 향상된 AUC 성능을 달성한다.

ABSTRACT

Anomaly detection on attributed networks aims at finding nodes whose patterns deviate significantly from the majority of reference nodes, which is pervasive in many applications such as network intrusion detection and social spammer detection. However, most existing methods neglect the complex cross-modality interactions between network structure and node attribute. In this paper, we propose a deep joint representation learning framework for anomaly detection through a dual autoencoder (AnomalyDAE), which captures the complex interactions between network structure and node attribute for high-quality embeddings. Specifically, AnomalyDAE consists of a structure autoencoder and an attribute autoencoder to learn both node embedding and attribute embedding jointly in latent space. Moreover, attention mechanism is employed in structure encoder to learn the importance between a node and its neighbors for an effective capturing of structure pattern, which is important to anomaly detection. Besides, by taking both the node embedding and attribute embedding as inputs of attribute decoder, the cross-modality interactions between network structure and node attribute are learned during the reconstruction of node attribute. Finally, anomalies can be detected by measuring the reconstruction errors of nodes from both the structure and attribute perspectives. Extensive experiments on real-world datasets demonstrate the effectiveness of the proposed method.

연구 동기 및 목표

• 속성 부여 네트워크에서 네트워크 구조와 노드 속성 간의 복잡한 교차 모달 상호작용을 간과하는 기존 이상 탐지 방법의 한계를 해결하기 위해.
• 구조적 패턴과 속성 패턴을 동시에 포착할 수 있는 딥 공동 표현 학습 프레임워크를 개발하기 위해.
• 이중 자동에코드를 통한 엔드 투 엔드 학습을 통해 노드 및 속성 임베딩을 학습하고, 재구성 기반 이상 점수를 산정하기 위해.
• 인코딩 및 재구성 단계 모두에서 구조와 속성 간의 상호작용을 모델링하여 탐지 성능을 향상시키기 위해.

제안 방법

• 네트워크 인접행렬을 재구성함으로써 노드 임베딩을 학습하는 구조 자동에코드를 사용하며, 이는 이웃의 중요도를 가중치로 고려하는 주목기반 메커니즘으로 강화된다.
• 학습된 속성 임베딩에서 노드 속성을 재구성함으로써 속성 수준의 패턴을 포착하는 속성 자동에코드를 사용한다.
• 두 자동에코드를 공동으로 학습하여 노드 및 속성의 잠재 표현을 공유 임베딩 공간에서 학습한다.
• 노드 및 속성 임베딩을 모두 속성 디코더의 입력으로 사용함으로써 교차 모달 상호작용을 통합하여, 구조적 맥락 기반의 속성 재구성을 가능하게 한다.
• 재구성 오차의 가중치 합으로 이상 점수를 계산한다: $ \mathcal{L} = \alpha \cdot \mathcal{L}_{\text{struct}} + (1 - \alpha) \cdot \mathcal{L}_{\text{attr}} $.
• 결합된 이상 점수에 임계값을 적용하여 노드를 정상(0) 또는 이상(1)으로 분류한다.

실험 결과

연구 질문

• RQ1 이중 자동에코드를 통한 노드 및 속성 임베딩의 공동 학습이 속성 부여 네트워크에서 이상 탐지 성능 향상에 기여하는가?
• RQ2 이웃의 중요도를 가중치로 고려하는 주목 기반 메커니즘이 이상 탐지에서 구조적 패턴을 효과적으로 포착하는가?
• RQ3 네트워크 구조와 노드 속성 간의 교차 모달 상호작용이 이상 탐지 성능 향상에 얼마나 기여하는가?
• RQ4 임베딩 차원 및 무게 조정 파라미터 $\alpha$ 와 같은 하이퍼파라미터에 대해 이 방법의 민감도는 어느 정도인가?
• RQ5 제안된 방법은 다양한 실세계 속성 부여 네트워크 데이터셋에서 SOTA 기법 대비 AUC 측면에서 우월한 성능을 보이는가?

주요 결과

• BlogCatalog 데이터셋에서 AnomalyDAE는 97.81의 AUC 점수를 기록하여 다음으로 우수한 방법(Dominant)보다 19.68% 높은 성능을 보였다.
• Flickr 데이터셋에서 AnomalyDAE는 97.22의 AUC 점수를 기록하여 SOTA 방법인 Dominant 대비 22.32% 향상된 성능을 보였다.
• ACM 데이터셋에서 AnomalyDAE는 90.05의 AUC 점수를 기록하여 Dominant 대비 15.11% 향상된 성능을 기록했다.
• 모든 세 데이터셋에서 LOF, SCAN, AMEN, Radar, Anomalous, Dominant 등 모든 베이스라인 방법보다 일관되게 뛰어난 성능을 보였다.
• 하이퍼파라미터 민감도 분석 결과, 임베딩 차원 128 또는 256에서 최적의 성능를 기록하였으며, 매우 낮거나 매우 높은 차원에서는 성능이 열악했다.
• 무게 조정 파라미터 $\alpha$ 는 성능에 큰 영향을 미치며, 극단적인 값(0 또는 1)에서는 열악한 성능를 기록함으로써 균형 잡힌 교차 모달 상호작용의 중요성을 확인했다.