[논문 리뷰] The Power Mean Laplacian for Multilayer Graph Clustering

Pedro Mercado, Antoine Gautier외 2명|arXiv (Cornell University)|2018. 03. 01.

Complex Network Analysis Techniques인용 수 16

한 줄 요약

이 논문은 다층 그래프의 여러 층에서의 라플라시안을 융합하여 스펙트럴 클러스터링을 향상시키는 일파rameter 가중 평균 행렬인 파워 미디안 라플라시안을 소개한다. 파arameter가 $-\infty$로 수렴할수록 스토하스틱 블록 모델에서 정답 클러스터를 완벽하게 복원하며, 밀도 높은 파워 미디안 행렬을 명시적으로 구성하지 않고도 고유벡터를 효율적으로 계산하는 수치적 방법을 제공하여 대규모 희소 그래프에의 확장성을 확보한다.

ABSTRACT

Multilayer graphs encode different kind of interactions between the same set of entities. When one wants to cluster such a multilayer graph, the natural question arises how one should merge the information different layers. We introduce in this paper a one-parameter family of matrix power means for merging the Laplacians from different layers and analyze it in expectation in the stochastic block model. We show that this family allows to recover ground truth clusters under different settings and verify this in real world data. While computing the matrix power mean can be very expensive for large graphs, we introduce a numerical scheme to efficiently compute its eigenvectors for the case of large sparse graphs.

연구 동기 및 목표

• 다층 그래프에서 여러 층의 정보를 융합하여 클러스터링 성능을 향상시키는 과제를 해결하기 위해.
• 산술, 기하, 조화 평균을 일반화하는 원칙적인 행렬 평균 기반 융합 방법을 개발하기 위해.
• 스토하스틱 블록 모델(SBM)에서 두 가지 설정(모든 층이 정보를 제공하는 경우와 집단적 정보만 존재하는 경우)에서 방법의 이론적 성능을 분석하기 위해.
• 밀도 높은 행렬을 명시적으로 구성하지 않고도 행렬 파워 미디안의 주요 고유벡터를 효율적으로 계산할 수 있는 확장 가능한 수치 알고리즘을 설계하기 위해.

제안 방법

• 다양한 그래프 층의 정규화된 라플라시안을 융합하기 위한 일파라미터 가중 평균 행렬을 제안한다.
• 스칼라 파워 미디안 공식 $ m_p(x_1,\dots,x_T) = \left(\frac{1}{T}\sum x_i^p\right)^{1/p} $ 을 함수 해석학을 통해 대칭 준정적 행렬로 확장한다.
• 각 층의 정규화된 라플라시안 $ L_{\text{sym}}^{(t)} $ 에 행렬 파워 미디안을 적용하여 통합 라플라시안 $ \mathcal{L}_p $ 를 구성한다.
• 밀도 높은 행렬을 명시적으로 계산하지 않고도 $ \mathcal{L}_p $ 의 주요 고유벡터를 효율적으로 계산하기 위해 킬로프 부분공간 기반 파wer 메서드를 활용한다.
• 결과로 얻어진 통합 라플라시안에 스펙트럴 클러스터링을 적용하여 최종 클러스터링 결과를 도출한다.
• 스토하스틱 블록 모델(SBM)에서 기대값 기반으로 분석을 수행하며, 모든 층이 정보를 제공하는 경우와 일부 층만 정보를 제공하는 경우를 모두 고려한다.

실험 결과

연구 질문

• RQ1 다양한 층의 라플라시안에 대한 행렬 파워 미디안이 표준 산술 평균보다 정답 클러스터 복원 성능에서 뛰어나게 되는가?
• RQ2 다층 그래프에서 클러스터 복원에 최적의 파워 미디안 파arameter $ p $ 값은 무엇인가?
• RQ3 개별 층이 정보가 약한 경우에도 행렬 파워 미디안이 커뮤니티 구조를 유지하거나 향상시키는가?
• RQ4 밀도 높은 행렬을 명시적으로 구성하지 않고도 행렬 파워 미디안의 주요 고유벡터를 효율적으로 계산할 수 있는가?

주요 결과

• 파워 미디안 파arameter $ p \to -\infty $ 로 수렴할수록, 스토하스틱 블록 모델에서 기대값 기반으로 정답 클러스터를 완벽하게 복원한다. 이는 개별 층이 정보가 없더라도 성립한다.
• 이 방법은 표준 산술 평균 라플라시안보다 유의미하게 뛰어난 성능을 보이며, 다층 그래프에서 클러스터링에 있어 최적의 방법이 아님을 입증한다.
• 이론적 분석을 통해 행렬 파워 미디안이 클러스터링에 필요한 스펙트럴 구조를 유지함을 확인하였으며, SBM 설정에서 고유값과 고유벡터가 명시적으로 특성화되어 있다.
• 제안된 수치적 방법은 반복당 $ O(kn) $ 시간 내에 파워 미디안의 주요 고유벡터를 계산할 수 있으며, 여기서 $ k $ 는 고유벡터의 수, $ n $ 은 노드 수이다. 이는 대규모 희소 그래프에의 확장성을 보장한다.
• 합성 SBM 그래프에서의 실증적 검증을 통해 다양한 희소 그래프 샘플에서 안정적인 클러스터 복원 성능을 확인하였으며, 이는 이론적 기대와 일치한다.
• 실제 데이터 실험을 통해 기존 기준 방법 대비 뛰어난 클러스터링 성능을 달성하였으며, 특히 이질적 또는 정보가 약한 층을 포함한 환경에서 뛰어난 성능을 보였다.