[논문 리뷰] From Node Embedding To Community Embedding : A Hyperbolic Approach

Gerald, Thomas, Hadi Zaatiti외 3명|arXiv (Cornell University)|2019. 07. 02.

Complex Network Analysis Techniques참고 문헌 31인용 수 4

한 줄 요약

이 논문은 초등각 기하학(하이퍼볼릭, Poincaré 구) 임bedding과 리emannian 클러스터링 기법을 활용하여 ComE 알고리즘의 리emannian 확장 기법을 제안한다. 실제 네트워크에서 초등각 K-means 및 가우시안 혼합 모델이 유클리드 기반 모델과 초등각 SVM을 능가하며, 저차원 공간에서 최신 기술 수준의 성능을 달성하여 커뮤니티 탐지 정확도를 향상시킨다.

ABSTRACT

Detecting communities on graphs has received significant interest in recent literature. Current state-of-the-art community embedding approach called extit{ComE} tackles this problem by coupling graph embedding with community detection. Considering the success of hyperbolic representations of graph-structured data in last years, an ongoing challenge is to set up a hyperbolic approach for the community detection problem. The present paper meets this challenge by introducing a Riemannian equivalent of extit{ComE}. Our proposed approach combines hyperbolic embeddings with Riemannian K-means or Riemannian mixture models to perform community detection. We illustrate the usefulness of this framework through several experiments on real-world social networks and comparisons with extit{ComE} and recent hyperbolic-based classification approaches.

연구 동기 및 목표

• 유클리드 임bedding이 계층적 그래프 구조를 포착하는 데 한계가 있음을 해결하기 위해 하이퍼볼릭 기하학을 활용하는 것.
• 하이퍼볼릭 임bedding과 리emannian 클러스터링을 사용하여 최신 기술 수준의 ComE 알고리즘을 리emannian 환경으로 확장하는 것.
• 그래프 구조 데이터에서 비지도 및 지도 커뮤니티 탐지에 대해 리emannian K-means, GMM, 그리고 로지스틱 회귀의 효과성을 평가하는 것.
• 실제 데이터셋에서 제안된 하이퍼볼릭 접근법을 ComE와 최근의 하이퍼볼릭 방법(예: 하이퍼볼릭-SVM)과 비교하는 것.

제안 방법

• 노드를 하이퍼볼릭 공간에 표현하기 위해 Poincaré 구 임bedding을 사용하여 계층적이고 트리 형태의 그래프 구조를 유지한다.
• 지오데식 거리 기반으로 리emannian K-means와 리emannian 가우시안 혼합 모델(GMM)을 사용하여 비지도 커뮤니티 탐지 수행한다.
• 리emannian 바이아센트까지의 하이퍼볼릭 거리를 기반으로 한 리emannian 로지스틱 회귀를 사용하여 지도 분류를 수행한다.
• 하이퍼볼릭 GMM의 매개변수 추정을 위해 리emannian 기대최대화 알고리즘을 활용한다.
• 클러스터 중심으로 리emannian 바이아센트를 사용하고, 거리 계산을 지오데식 분리의 역쌍곡사 sine를 통해 수행한다.
• ComE와 유사하게 반복적 노드 임bedding과 커뮤니티 학습을 수행하지만, 하이퍼볼릭 공간에서 리emannian 최적화를 사용한다.

실험 결과

연구 질문

• RQ1 하이퍼볼릭 공간에서 리emannian 클러스터링 기법이 유클리드 기반 모델 대비 커뮤니티 탐지 성능을 향상시킬 수 있는가?
• RQ2 실제 사회 네트워크에서 리emannian K-means와 GMM의 성능이 ComE와 하이퍼볼릭-SVM에 비해 어떻게 되는가?
• RQ3 저차원 하이퍼볼릭 임bedding이 커뮤니티 탐지에 있어 계층적 구조를 얼마나 잘 유지하는가?
• RQ4 리emannian 로지스틱 회귀를 사용할 경우 유클리드 로지스틱 회귀 대비 하이퍼볼릭 공간에서 분류 정확도가 향상되는가?

주요 결과

• 카라테 데이터셋에서 제안된 H-K-Means는 오직 11%의 표준편차로 92%의 정확도를 달성하여 저차원에서 ComE를 능가했다.
• 폴블로그 데이터셋에서 H-GMM과 H-K-Means는 모두 1% 미만의 표준편차로 95%의 정확도를 기록하여 하이퍼볼릭-SVM(93%)를 뛰어넘었다.
• 풋볼 데이터셋에서 H-K-Me안은 7.8%의 표준편차로 80%의 정확도를 달성하여 H-SVM(24%)와 H-LR(39%)를 크게 앞섰다.
• DBLP에서는 10차원에서 92%의 정밀도를 기록하여 ComE의 128차원 성능을 재현함으로써 저차원 표현의 효율성을 입증했다.
• 플리커에서는 모든 차원에서 ComE를 정밀도 측면에서 능가하여 대규모이고 희박한 네트워크에서의 강건성을 보여주었다.
• 결과적으로 지오데식 기반 분류기(예: H-SVM, H-LR)는 커뮤니티 수가 많을 경우 GMM 및 K-means보다 성능이 열 劣함을 보이며, 이는 GMM이 복잡한 커뮤니티 구조에 더 적합함을 시사한다.