[논문 리뷰] MSGNN: A Spectral Graph Neural Network Based on a Novel Magnetic Signed Laplacian

Yixuan He, Michael Permultter외 2명|arXiv (Cornell University)|2022. 09. 01.

Advanced Graph Neural Networks인용 수 6

한 줄 요약

이 논문은 서명된 그래프와 방향성 그래프 구조를 통합하는 새로운 자기장 부호가 있는 라플라시안 행렬을 기반으로 한 새로운 스펙트럼 그래프 신경망인 MSGNN을 제안한다. 이 허미션형이며 양의 준정적 행렬인 이 라플라시안의 고유분해를 활용하여, 새로운 금융 시계열 기반 데이터셋과 단순한 서명된 방향성 스토케스틱 블록 모델을 포함한 다양한 작업에서 노드 클러스터링 및 링크 예측 분야에서 최신 기술 수준(SOTA) 성능을 달성한다.

ABSTRACT

Signed and directed networks are ubiquitous in real-world applications. However, there has been relatively little work proposing spectral graph neural networks (GNNs) for such networks. Here we introduce a signed directed Laplacian matrix, which we call the magnetic signed Laplacian, as a natural generalization of both the signed Laplacian on signed graphs and the magnetic Laplacian on directed graphs. We then use this matrix to construct a novel efficient spectral GNN architecture and conduct extensive experiments on both node clustering and link prediction tasks. In these experiments, we consider tasks related to signed information, tasks related to directional information, and tasks related to both signed and directional information. We demonstrate that our proposed spectral GNN is effective for incorporating both signed and directional information, and attains leading performance on a wide range of data sets. Additionally, we provide a novel synthetic network model, which we refer to as the Signed Directed Stochastic Block Model, and a number of novel real-world data sets based on lead-lag relationships in financial time series.

연구 동기 및 목표

• 실생활 응용 분야인 소셜 네트워크, 금융 시계열, 영향력 모델링 등에서 흔히 나타나는 서명된 그래프와 방향성 그래프를 위한 스펙트럼 GNN의 부족을 해결하기 위해.
• 방향성 그래프를 위한 자기장 라플라시안과 서명된 그래프를 위한 서명된 라플라시안을 하나의 행렬 프레임워크로 통합하여 간선의 부호와 방향성을 동시에 포괄하기 위해.
• 서명된 정보와 방향성 정보를 동시에 학습할 수 있는 효율적인 스펙트럼 GNN 아키텍처인 MSGNN을 개발하기 위해.
• 합성 및 실세계 데이터셋을 모두 사용하여 간선의 부호와 방향성 동시 추론을 포함한 다양한 작업에서 MSGNN을 평가하기 위해.
• 새로운 합성 모델인 서명된 방향성 스토케스틱 블록 모델(SDSBM)과 금융 리드-래그 관계에서 유도된 새로운 실세계 데이터셋을 도입하기 위해.

제안 방법

• 서명된 라플라시안과 자기장 라플라시안을 일반화하는 새로운 자기장 부호가 있는 라플라시안 행렬을 제안하여 허미션형 구조와 양의 준정적 성질을 보장한다.
• 고유값이 [0, 2] 범위에 놓이는 정규화된 자기장 부호가 있는 라플라시안을 정의하여 GNN에서 안정적인 스펙트럼 분해를 가능하게 한다.
• 정규화된 자기장 부호가 있는 라플라시안의 고유분해를 활용하여 스펙트럼 GNN인 MSGNN을 구축하고, 스펙트럼 도메인에서 학습 가능한 필터를 적용한다.
• 라플라시안 고유값의 다항식 근사화를 통한 학습 가능한 스펙트럼 필터를 적용하여 스펙트럼 공간에서의 효율적 메시지 전달을 가능하게 한다.
• 크로스 엔트로피와 대비 학습 목적 함수를 사용하여 MSGNN을 엔드 투 엔드로 훈련하여 노드 클러스터링 및 링크 예측을 수행한다.
• 하류 작업을 위한 노드 수준의 표현을 생성하기 위해 모델에 학습 가능한 리더아웃 레이어를 통합한다.

실험 결과

연구 질문

• RQ1 통합된 스펙트럼 프레임워크는 그래프 구조 데이터에서 간선의 부호와 방향성을 효과적으로 모델링할 수 있는가?
• RQ2 기존 방법들과 비교하여 MSGNN은 간선의 부호와 방향성을 동시에 추론이 필요한 링크 예측 작업에서 얼마나 우수한 성능을 보이는가?
• RQ3 제안된 자기장 부호가 있는 라플라시안은 서명된 그래프 및 방향성 그래프의 기존 라플라시안을 얼마나 잘 일반화하는가?
• RQ4 합성 및 실세계 금융 시계열 네트워크를 포함한 다양한 데이터 분포에서 MSGNN의 탄력성은 어느 정도인가?
• RQ5 제안된 서명된 방향성 스토케스틱 블록 모델(SDSBM)은 서명된 그래프 및 방향성 그래프에서 GNN 평가를 위한 현실적인 벤치마크로 기능할 수 있는가?

주요 결과

• MSGNN는 서명된 정보와 방향성 정보를 동시에 포함하는 노드 클러스터링 및 링크 예측 작업에서 최신 기술 수준의 성능을 달성하여, 다양한 벤치마크에서 기존 모델들을 능가한다.
• 2020년 금융 시계열 데이터셋에서 MSGNN는 링크 예측(SP 작업)에서 92.3% ± 0.1의 정확도를 기록하여 기준 모델들을 크게 앞서 간다.
• 5개 커뮤니티 링크 예측 작업에서는 MSGNN가 67.8% ± 0.2의 정확도를 달성하여 복잡하고 노이즈가 많은 네트워크에서도 강력한 일반화 능력을 입증한다.
• 제안된 자기장 부호가 있는 라플라시안은 특수한 경우에 표준 서명된 라플라시안과 자기장 라플라시안으로 축소되며, 이는 이론적 일관성을 확인한다.
• 새로운 SDSBM 모델은 서명된 그래프 및 방향성 그래프에서 GNN의 평가를 제어 가능하게 하며, 합성 데이터에서 MSGNN의 성능 향상이 일관되게 관찰된다.
• 실세계 금융 데이터셋에서 MSGNN는 리드-래그 관계가 방향성과 부호가 있는 상호작용을 나타내므로, 뛰어난 탄력성과 일반화 능력을 보여준다.