[논문 리뷰] Covariate Regularized Community Detection in Sparse Graphs

Bowei Yan, Purnamrita Sarkar|arXiv (Cornell University)|2016. 07. 10.

Bayesian Methods and Mixture Models참고 문헌 53인용 수 8

한 줄 요약

이 논문은 희박한 네트워크 구조와 유한 차원의 서브가우시안 공변수를 동시에 활용하여 커뮤니티 탐지 정확도를 향상시키는 볼록 최적화 프레임워크를 제안한다. 각 소스가 별도로는 충분하지 않을 경우, 특히 희박한 네트워크에서 신호 간 분리가 약한 조건에서, 두 소스를 동시에 정규화함으로써 클러스터링 성능을 증명 가능하게 향상시킨다.

ABSTRACT

In this article, we investigate community detection in networks in the presence of node covariates. In many instances, covariates and networks individually only give a partial view of the cluster structure. One needs to jointly infer the full cluster structure by considering both. In statistics, an emerging body of work has been focused on combining information from both the edges in the network and the node covariates to infer community memberships. However, so far the theoretical guarantees have been established in the dense regime, where the network can lead to perfect clustering under a broad parameter regime, and hence the role of covariates is often not clear. In this article, we examine sparse networks in conjunction with finite dimensional sub-Gaussian mixtures as covariates under moderate separation conditions. In this setting each individual source can only cluster a nonvanishing fraction of nodes correctly. We propose a simple optimization framework which improves clustering accuracy when the two sources carry partial information about the cluster memberships, and hence perform poorly on their own. Our optimization problem can be solved by scalable convex optimization algorithms. With a variety of simulated and real data examples, we show that the proposed method outperforms other existing methodology. Supplementary materials for this article are available online.

연구 동기 및 목표

• 단지 네트워크 구조나 공변수에 의존하는 기존 커뮤니티 탐지 방법의 한계를 해결하되, 일반적으로 희박한 네트워크에서 신호 분리가 약할 경우 성능이 떨어지는 문제를 해결한다.
• 희박한 네트워크 데이터와 유한 차원의 공변수를 동시에 활용하여, 각 소스가 별도로는 부분적인 정보만 제공할 경우에도 클러스터링 정확도를 향상시키는 통합 프레임워크를 개발한다.
• 희박한 네트워크에서 평균 차수의 상수가 유지되는 조건 하에서, 두 소스에 대해 중간 정도의 분리 조건이 성립할 경우, 개선된 클러스터링 정확도에 대한 이론적 보장을 수립한다.
• 시뮬레이션 및 실제 데이터셋(정치 네트워크와 생태계 식량망 포함)에서 기존 방법보다 본 방법의 우월성을 입증한다.
• 희박한 스토케스틱 블록 모델과 약한 신호 조건 하에서의 서브가우시안 혼합물의 커널 클러스터링으로 이론적 분석을 확장한다.

제안 방법

• 네트워크 구조에서 유도된 그래프 라플라시안과 노드 공변수에서 유도된 커널 행렬을 조합한 페널티가 부여된 볼록 최적화 문제를 수립한다.
• 반정형계획법(SDP)을 사용하여 최적화 문제를 해결함으로써, 확장 가능하고 증명 가능하게 일致된 커뮤니티 탐지가 가능해진다.
• 네트워크와 공변수에서 온 정보의 균형을 맞추기 위해 정규화 항을 도입하여, 한 소스가 노이즈가 많거나 약할 경우에도 강인성을 확보한다.
• 유한 차원의 서브가우시안 공변수를 재생핵 힐버트 공간으로 매핑하기 위해 커널 방법을 활용하여, 클러스터의 비선형 분리를 가능하게 한다.
• 유도된 네트워크를 다룰 수 있도록, 임계값을 적용한 대칭화된 인접행렬을 사용한다. 예를 들어 웨델 해의 영양망 네트워크에 적용된다.
• 네트워크 정보와 공변수 정보 사이의 트레이드오프를 제어하기 위해 튜닝 파라미터를 사용하여 클러스터링 정확도 최적화를 수행한다.

실험 결과

연구 질문

• RQ1 희박한 네트워크 데이터와 유한 차원의 공변수를 조합하면, 각 소스를 별도로 사용할 경우보다 더 나은 커뮤니티 탐지 성능을 달성할 수 있는가?
• RQ2 희박한 네트워크에서 네트워크와 공변수 정보를 함께 사용할 경우, 어떤 조건에서 클러스터링 정확도가 향상되는가?
• RQ3 네트워크와 공변수가 각각 별도로 일관된 클러스터링을 제공하지 못할 경우, 제안된 방법이 이론적으로 일관성을 확보할 수 있는가?
• RQ4 두 소스에서 신호가 약하거나 상호 수직일 경우, 실제 데이터셋에서 이 방법의 성능은 어떠한가?
• RQ5 이 방법은 다수의 소스나 공변수에서의 비선형 클러스터 경계로 일반화될 수 있는가?

주요 결과

• 멕시코 정치 엘리트 데이터셋에서 제안된 방법은 정규화된 상호정보량(NMI) 0.46을 달성하여, ACASC(0.37)와 JCDC(0.25)를 모두 능가한다.
• 웨델 해 영양망 네트워크에서 이 방법은 NMI 0.51을 기록하여, SDP-net(0.36), SDP-cov(0.22), ACASC(0.32), JCDC(0.42)를 모두 압도적으로 앞서간다.
• 예를 들어, 네트워크 연결은 동일하지만 시민 공변수를 지닌 1940년대 정치인과 같은 애매한 노드를, 두 신호를 조합함으로써 성공적으로 분류한다.
• 시뮬레이션 결과, 두 소스가 상호 직교하거나 부분적인 정보를 지닐 경우, 각 소스가 별도로는 성능이 떨어지더라도 본 방법이 클러스터링 정확도를 향상시킨다.
• 이론적 분석 결과, 개별 소스가 요구하는 것보다 더 약한 분리 조건 하에서도 클러스터링 오차의 상한선을 개선할 수 있음을 보여준다.
• 두 소스 모두 신호 강도가 약할 경우에도 본 방법은 강인하며, 한 소스도 한계에서 일관된 클러스터링을 제공하지 못하더라도 일致적인 향상 효과를 보인다.