[논문 리뷰] Spectral Clustering of Signed Graphs via Matrix Power Means

Pedro Mercado, Francesco Tudisco외 1명|arXiv (Cornell University)|2019. 05. 15.

Complex Network Analysis Techniques인용 수 13

한 줄 요약

이 논문은 정규화된 표준 라플라시안과 부호 없는 라플라시안의 행렬 멱평균을 사용하여 양성 및 음성 그래프 상호작용을 융합하는 일파라미터 가중평균 가중치를 갖는 서명된 멱평균(SPM) 라플라시안을 소개한다. 이는 스펙트럴 클러스터링을 위한 것이다. 이 논문은 기존 최고 수준의 방법들보다 더 온건한 조건 하에서 진정한 클러스터를 복원함을 증명하며, 특히 $p \to -\infty$의 극한에서 그러한 성능을 보이며, 스토케스틱 블록 모델 하에서 고유값과 고유벡터의 농도를 확립한다.

ABSTRACT

Signed graphs encode positive (attractive) and negative (repulsive) relations between nodes. We extend spectral clustering to signed graphs via the one-parameter family of Signed Power Mean Laplacians, defined as the matrix power mean of normalized standard and signless Laplacians of positive and negative edges. We provide a thorough analysis of the proposed approach in the setting of a general Stochastic Block Model that includes models such as the Labeled Stochastic Block Model and the Censored Block Model. We show that in expectation the signed power mean Laplacian captures the ground truth clusters under reasonable settings where state-of-the-art approaches fail. Moreover, we prove that the eigenvalues and eigenvector of the signed power mean Laplacian concentrate around their expectation under reasonable conditions in the general Stochastic Block Model. Extensive experiments on random graphs and real world datasets confirm the theoretically predicted behaviour of the signed power mean Laplacian and show that it compares favourably with state-of-the-art methods.

연구 동기 및 목표

• 기존의 스펙트럴 클러스터링 방법이 서명된 그래프에서 양성 및 음성 간선을 최적의 방식으로 융합하지 못하는 한계를 해결한다.
• 행렬 멱평균을 사용하여 산술평균 및 기하평균 기반 라플라시안을 일반화하는 통합 프레임워크를 개발한다.
• 제안된 SPM 라플라시안이 일반 서명된 스토케스틱 블록 모델 하에서 기대값 기반으로 진정한 클러스터를 복원함을 증명한다. 이는 최고 수준의 기존 방법들이 실패하는 경우에도 성립한다.
• 샘플링된 그래프에 대한 이론적 보장을 확장하기 위해 SPM 라플라시안의 고유값과 고유벡터가 기대값 주변에 집중됨을 증명한다.
• 합성 및 실세계 서명된 네트워크에서의 광범위한 실험을 통해 SPM 라플라시안이 기존 방법들을 능가함을 보여준다.

제안 방법

• 양성 및 음성 간선의 정규화된 표준 라플라시안과 부호 없는 라플라시안의 행렬 멱평균으로 서명된 멱평균(SPM) 라플라시안을 정의한다.
• 매개수 $p$를 사용하여 산술평균($p=1$), 기하평균($p=0$), 조화평균($p=-1$) 사이를 보간하며, 극한 $p \to \infty$와 $p \to -\infty$는 각각 AND 및 OR 논리에 해당한다.
• 일반 서명된 스토케스틱 블록 모델의 맥락에서 SPM 라플라시안을 분석하여 기대값 기반으로 진정한 클러스터 구조가 복원되는 조건을 유도한다.
• 약한 조건 하에서 SPM 라플라시안의 고유값과 고유벡터가 기대값 주변에 집중됨을 증명함으로써, 샘플링된 그래프에 대한 이론적 보장을 가능하게 한다.
• 고차원 행렬 멱을 명시적으로 구성하지 않고도 주요 고유벡터를 효율적으로 계산하기 위해 행렬 기반 없는 다항식 크릴로프 부분공간 방법을 구현한다.
• 합성 및 실세계 데이터셋에서 기존 최고 수준의 방법들인 베테 헤시안, 정규화된 라플라시안, 부호 없는 정규화된 라플라시안과 SPM 라플라시안을 비교한다.

실험 결과

연구 질문

• RQ1 기저 행렬 멱평균을 사용하여 스펙트럴 클러스터링에서 양성 및 음성 그래프 상호작용을 통합할 수 있는 통합 프레임워크를 개발할 수 있는가?
• RQ2 서명된 스토케스틱 블록 모델 하에서 SPM 라플라시안이 기대값 기반으로 진정한 클러스터 구조를 복원하는 조건은 무엇인가?
• RQ3 멱평균 매개수 $p$의 선택이 클러스터 복원의 강건성과 성능에 어떤 영향을 미치는가?
• RQ4 스토케스틱 블록 모델 설정 하에서 SPM 라플라시안의 고유값과 고유벡터가 기대값 주변에 집중되는가?
• RQ5 실세계 및 합성 서명된 네트워크에서 SPM 라플라시안은 기존 최고 수준의 방법들과 비교하여 어떻게 성능을 발휘하는가?

주요 결과

• SPM 라플라시안에서 $p \to -\infty$일 경우, 양성 또는 음성 상호작용 중 하나만 유의미한 경우에도 클러스터를 복원할 수 있으며, 이는 OR 유사 조건에 해당한다.
• SPM 라플라시안에서 $p \to \infty$일 경우, 양성 및 음성 상호작용이 모두 유의미할 때에만 클러스터를 복원할 수 있으며, 이는 AND 유사 조건에 해당한다.
• 유한한 $p$에 대해서는 클러스터 복원 조건이 성립하는 설정 비율이 $p$가 감소함에 따라 증가하며, $\mathcal{L}_{-\infty}$는 항상 조건을 만족한다.
• 랜덤 그래프에서의 실험 결과, SPM 라플라시안에서 $p \leq -2$일 경우, $L_{SN}$, $L_{BN}$ 및 베테 헤시안보다 항상 더 높은 클러스터 복원 정확도를 기록한다.
• SPM 라플라시안 고유벡터를 계산하기 위한 행렬 기반 없는 크릴로프 방법은 고차원 행렬 멱 계산보다 훨씬 빠르며, 특히 대규모 그래프에서 그러한 이점이 두드러진다.
• 위키백과 데이터에서 $p = -10$ 및 $p = -5$일 경우 SPM 라플라시안은 인접행렬에 명확한 블록 구조를 드러내지만, 다른 방법들은 동일한 패턴을 복원하지 못한다.