[논문 리뷰] Mul-GAD: a semi-supervised graph anomaly detection framework via aggregating multi-view information

Zhiyuan Liu, Chunjie Cao외 1명|arXiv (Cornell University)|2022. 12. 11.

Advanced Graph Neural Networks인용 수 4

한 줄 요약

Mul-GAD는 뷰 수준 및 특징 수준 융합 전략을 통해 다중 시각 표현을 융합함으로써 모델의 일반화 능력을 향상시키는 준지도 학습 기반 그래프 이상 탐지 프레임워크를 제안한다. 레이블 기반 목적 함수와 학습 가능한 뷰 가중치를 활용하여 다양한 이상 유형에 걸쳐 탐지 정확도와 강건성을 향상시켜 PubMed, Amazon Photo, Books 등의 다수 벤치마크 데이터셋에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Anomaly detection is defined as discovering patterns that do not conform to the expected behavior. Previously, anomaly detection was mostly conducted using traditional shallow learning techniques, but with little improvement. As the emergence of graph neural networks (GNN), graph anomaly detection has been greatly developed. However, recent studies have shown that GNN-based methods encounter challenge, in that no graph anomaly detection algorithm can perform generalization on most datasets. To bridge the tap, we propose a multi-view fusion approach for graph anomaly detection (Mul-GAD). The view-level fusion captures the extent of significance between different views, while the feature-level fusion makes full use of complementary information. We theoretically and experimentally elaborate the effectiveness of the fusion strategies. For a more comprehensive conclusion, we further investigate the effect of the objective function and the number of fused views on detection performance. Exploiting these findings, our Mul-GAD is proposed equipped with fusion strategies and the well-performed objective function. Compared with other state-of-the-art detection methods, we achieve a better detection performance and generalization in most scenarios via a series of experiments conducted on Pubmed, Amazon Computer, Amazon Photo, Weibo and Books. Our code is available at https://github.com/liuyishoua/Mul-Graph-Fusion.

연구 동기 및 목표

• 다양한 데이터셋에서 기존 GNN 기반 그래프 이상 탐지 방법의 열악한 일반화 성능을 해결한다.
• 다양한 GNN 아키텍처에서 유도된 다중 그래프 표현을 융합하여 탐지 강건성을 향상시킨다.
• 목적 함수의 선택과 융합 시각 수가 모델 성능에 미치는 영향을 조사하여 최적의 설계를 안내한다.
• 뷰 수준 및 특징 수준 융합을 통합한 통합 프레임워크를 개발하여 표현 학습 및 이상 탐지 능력을 향상시킨다.
• 보완 정보를 균형 있게 반영하고 부정확한 정보를 억제하는 이론적으로 타당한 융합 메커니즘을 확립한다.

제안 방법

• 다양한 GNN 아키텍처(예: GIN, GAT, GCN, BWGNN)를 사용하여 다중 시각 노드 표현을 생성함으로써 다양한 구조적 및 특징 수준의 패턴을 포착한다.
• 학습 가능한 어텐션 가중치를 활용한 뷰 수준 융합을 구현하여 각 시각이 최종 이상 점수에 기여하는 정도를 동적으로 평가한다.
• 특징 유사도 행렬을 계산하여 특징 수준 융합을 적용함으로써 보완 정보를 강조하고 冗餘한 특징에서 유도되는 노이즈를 감소시킨다.
• 준지도 학습 환경에서 레이블 기반 목적 함수를 활용하여 일반화 능력을 향상시키며, 특히 레이블이 제한된 이상 데이터가 포함된 데이터셋에서 유리하다.
• 통합된 표현과 선택된 목적 함수를 기반으로 확률적 경사 하강법을 사용하여 전체 모델을 최적화한다.
• 설계 선택 사항을 검증하기 위해 융합 시각 수와 목적 함수에 대한 분석 실험을 수행한다.

실험 결과

연구 질문

• RQ1 다중 시각 융합 전략은 다양한 데이터셋에서 그래프 이상 탐지 모델의 일반화 능력을 향상시킬 수 있는가?
• RQ2 목적 함수의 선택(레이블 기반, 재구성 기반, SSL 기반)이 탐지 성능과 일반화에 어떤 영향을 미치는가?
• RQ3 성능을 최대화하면서 과적합을 방지하기 위해 최적의 융합 시각 수는 얼마인가?
• RQ4 뷰 수준 및 특징 수준 융합 메커니즘이 개별적으로나 함께 작용할 때 이상 탐지 성능 향상에 기여하는 방식은 무엇인가?
• RQ5 학습 가능한 융합 가중치는 다양한 GNN 기반 시각의 상대적 중요도를 효과적으로 포착할 수 있는가?

주요 결과

• Mul-GAD는 PubMed에서 최고 AUC 95.6%를 기록했으며, Books에서는 98.7%를 달성하여 동일한 데이터셋에서 모든 최신 기술 수준의 방법보다 뛰어난 성능을 보였다.
• Amazon Photo 데이터셋에서는 AUC 99.0% (검증 시 99.2%)를 기록하여 동일한 설정에서 GIN(95.6%)과 GAT(98.9%)를 크게 앞서며 뛰어난 성능을 보였다.
• 모델는 강력한 일반화 능력을 보였으며, Amazon Computer에서는 AUC 91.3%, Weibo에서는 76.5%를 기록하여 OCSVM 및 LOF를 포함한 대부분의 베이스라인보다 뛰어났다.
• 특징 수준 융합을 위한 유사도 행렬 계산은 특히 합성 이상 및 유기적 이상에서 성능 향상에 뚜렷한 기여를 하였다.
• 모든 데이터셋에서 재구성 또는 자기지도 학습 기반 목적 함수보다 레이블 기반 목적 함수가 더 우수한 일반화 성능을 보였다.
• 세 개의 시각(예: GAT, GIN, BWGNN)을 융합할 경우 최적의 성능을 달성하였으며, 더 많은 시각을 융합한다고 해서 항상 성능 향상이 이루어지는 것은 아니었고, 이는 융합 이점의 포화점이 존재함을 시사한다.