[논문 리뷰] SSSNET: Semi-Supervised Signed Network Clustering

Yixuan He, Gesine Reinert외 2명|arXiv (Cornell University)|2021. 10. 13.

Complex Network Analysis Techniques인용 수 4

한 줄 요약

SSSNET는 확률적 균형 잡힌 정규화 컷 손실과 서명된 혼합경로 집약(SIMPA) 기법을 도입한 새로운 그래프 신경망 프레임워크로, 중간 단계 없이 엔드 투 엔드 학습이 가능하다. 사회적 균형 이론에 대한 강한 가정 없이 '적의 적은 친구'라는 전제를 기피함으로써, 고노이즈 및 희소한 환경에서도 최신 기법들을 능가한다.

ABSTRACT

Node embeddings are a powerful tool in the analysis of networks; yet, their full potential for the important task of node clustering has not been fully exploited. In particular, most state-of-the-art methods generating node embeddings of signed networks focus on link sign prediction, and those that pertain to node clustering are usually not graph neural network (GNN) methods. Here, we introduce a novel probabilistic balanced normalized cut loss for training nodes in a GNN framework for semi-supervised signed network clustering, called SSSNET. The method is end-to-end in combining embedding generation and clustering without an intermediate step; it has node clustering as main focus, with an emphasis on polarization effects arising in networks. The main novelty of our approach is a new take on the role of social balance theory for signed network embeddings. The standard heuristic for justifying the criteria for the embeddings hinges on the assumption that "an enemy's enemy is a friend". Here, instead, a neutral stance is assumed on whether or not the enemy of an enemy is a friend. Experimental results on various data sets, including a synthetic signed stochastic block model, a polarized version of it, and real-world data at different scales, demonstrate that SSSNET can achieve comparable or better results than state-of-the-art spectral clustering methods, for a wide range of noise and sparsity levels. SSSNET complements existing methods through the possibility of including exogenous information, in the form of node-level features or labels.

연구 동기 및 목표

• 그래프 신경망 기반 서명 네트워크 클러스터링 방법에서 노드 클러스터링을 주요 목표로 통합한 기법의 격차를 해소하기 위해.
• 기존 기법들이 '적의 적은 친구'라는 사회적 균형 이론의 강한 가정에 의존하는 한계를 극복하기 위해.
• 노드 임베딩 생성과 클러스터링을 통합하는 엔드 투 엔드 프레임워크를 개발하여 외부 노드 특징 또는 레이블의 활용을 가능하게 하기 위해.
• 노이즈 및 희소성 수준이 다양할 경우에도 성능을 향상시키기 위해, 특히 극단화되거나 희소한 네트워크 환경에서의 클러스터링 성능을 개선하기 위해.
• 엄격한 사회적 균형을 강요하지 않고 데이터 기반으로 관계가 어떻게 형성되는지를 학습할 수 있도록, 엄격한 사회적 균형을 넘어서 일반화된 자기지도 학습 목표를 제공하기 위해.

제안 방법

• 클러스터링을 지도하는 데 사용되는 자기지도 학습 목표로 새로운 확률적 균형 잡힌 정규화 컷(PBNC) 손실을 제안하여 균형 잡히고 정규화된 클러스터 할당을 촉진한다.
• 양성 및 음성 간선 전파를 분리하는 메시지 전파 메커니즘인 서명된 혼합경로 집약(SIMPA)을 도입하여 친구와 적 관계를 더 민첩하게 모델링할 수 있도록 한다.
• 각각의 양성 및 음성 간선을 통해 임베딩을 전파하기 위해 네 개의 별도된 다층퍼셉트론(MLP)을 활용하여 서로 다른 관계 유형에 대해 별도의 학습을 가능하게 한다.
• 레이블이 있는 시드 노드에 대한 지도 학습 손실과 자기지도 학습 PBNC 손실을 조합하여 반감독 학습을 가능하게 하고 일반화 성능을 향상시킨다.
• 최종적으로 소프트맥스를 적용한 선형 레이어를 통해 클러스터 확률 분포를 생성하고, 최종 클러스터 레이블은 argmax를 사용하여 할당한다.
• '적의 적은 친구'라는 전제를 강제하지 않고, 모델이 데이터 기반으로 이러한 관계가 형성되는지 학습하도록 하여 사회적 균형 이론에 대해 중립적인 입장을 취한다.

실험 결과

연구 질문

• RQ1 엄격한 사회적 균형 가정에 의존하지 않고도 GNN 기반 방법이 서명 네트워크 클러스터링에서 최신 기법 수준의 성능을 달성할 수 있는가?
• RQ2 노이즈 및 희소성 수준이 다양할 경우, 제안된 확률적 균형 잡힌 정규화 컷 손실이 전통적인 스펙트럼 클러스터링 방법보다 어떻게 비교되는가?
• RQ3 SIMPA 집약 메커니즘이 기존 GNN 또는 사회적 균형을 강제하는 기법들에 비해 클러스터링 성능을 얼마나 향상시키는가?
• RQ4 실제 서명 네트워크에서 진짜 레이블이 존재할 경우, SSSNET은 특히 극단화되거나 희소한 환경에서 얼마나 효과적으로 작동하는가?
• RQ5 외부 노드 특징 또는 레이블을 통합하면 반감독 환경에서 클러스터링 정확도가 상당히 향상되는가?

주요 결과

• SSSNET는 S&P 1500 및 샘슨 데이터셋에서 모두 최고의 조정된 랜드 지수(ARI)를 기록했으며, 완전히 감독 및 반감독 설정 모두에서 모든 기준 기법들을 능가했다.
• Fin-YNet 데이터셋에서 SSSNET는 21년에 걸쳐 가장 일관된 성능을 보였고, 최고 성능 기법과의 평균 거리가 가장 낮아 (ARI best와의 거리: 0.00 ± 0.00) 가장 우수했다.
• 레이블이 없는 자기지도 학습 설정에서 SSSNET는 경쟁 기법들보다 낮은 '불행한 비율'(클러스터 할당 위반 엣지 비율)을 기록하여 더 나은 클러스터링 품질을 나타냈다.
• 제거 실험 결과 PBNC 손실을 제거할 경우 불행한 비율이 증가함을 확인하여, 이 손실이 성능 향상에 결정적인 역할을 한다는 것을 입증했다.
• 사회적 균형 이론을 강제하는 변형과 비교했을 때, SSSNET는 특히 위반 비율이 증가할수록 더 높은 ARI를 기록하여 중립적 입장을 취한 것이 유의미하게 기여한다는 것을 입증했다.
• 시드 노드 비율을 높힐수록 테스트 ARI가 향상됨을 확인하여, 반감독 지도 학습의 효과성이 이 프레임워크 내에서 입증되었다.