[논문 리뷰] A consistent dot product embedding for stochastic blockmodel graphs

Daniel L. Sussman, Minh Tang외 2명|arXiv (Cornell University)|2011. 08. 10.

Markov Chains and Monte Carlo Methods참고 문헌 19인용 수 7

한 줄 요약

이 논문은 확률적 블록모델 그래프에 대해 일관된 내적 임베딩 방법을 제안하며, 평균 제곱오차 기준을 최소화하여 노드를 블록에 할당한다. 이 방법은 방향성 있는 그래프와 비방향성 그래프 모두에서 渐近적으로 무시할 만한 오할당을 보장하며, 블록 수가 네트워크 크기와 함께 느리게 증가함에도 일관된 모수 추정이 가능하게 한다.

ABSTRACT

We present a method to estimate block membership of nodes in a random graph generated by a stochastic blockmodel. We use an embedding procedure motivated by the random dot product graph model, a particular example of the latent position model. The embedded vectors are clustered through minimization of a mean square error/ criteria. We prove that this method is consistent for assigning nodes to blocks, as only a negligible number of nodes will be mis-assigned. We prove consistency of the method for directed and undirected graphs. The consistent block assignment makes possible consistent parameter estimation for a stochastic blockmodel. We extend the result for when the number of blocks grows slowly with the number of nodes. Our method is also computationally feasible even for very large graphs.

연구 동기 및 목표

• 확률적 블록모델 그래프에서 블록 소속을 추정하기 위한 계산적으로 실현 가능한 방법을 개발하는 것.
• 네트워크 크기가 증가함에 따라 오할당을 최소화하면서 노드를 일관되게 블록에 할당하는 것.
• 이 방법을 방향성 있는 그래프와 노드 수와 함께 느리게 증가하는 블록 수가 있는 설정으로 확장하는 것.
• 신뢰할 수 있는 블록 할당을 통해 확률적 블록모델에서 일관된 모수 추정을 지원하는 것.

제안 방법

• 노드 벡터를 저차원 공간에 임베딩하기 위한 기초로 무작위 내적 그래프 모델을 사용한다.
• 노드 임베딩은 평균 제곱오차 기준을 최소화하는 행렬 분해 문제를 풀어 얻는다.
• 블록 소속은 임베딩된 벡터를 임베딩 공간에서 k-means 유사 최적화를 통해 군집화함으로써 할당한다.
• 방향성 있는 엣지의 구조를 반영하기 위해 내적 표현을 수정함으로써 이 방법을 방향성 있는 그래프로 확장한다.
• 이론적 일관성을 입증하기 위해 네트워크 크기가 증가함에 따라 잘못된 블록에 할당될 확률이 0으로 수렴함을 증명한다.
• 낮은 랭크 행렬 연산에 기반함으로써 매우 큰 그래프에 대해서도 계산적으로 효율적인 유지가 가능하다.

실험 결과

연구 질문

• RQ1 내적 임베딩 접근법이 확률적 블록모델 그래프에서 일관된 블록 할당을 달성할 수 있는가?
• RQ2 이 방법은 방향성 있는 그래프와 비방향성 그래프 모두에서 일관성을 유지하는가?
• RQ3 블록 수가 노드 수와 함께 느리게 증가할 경우 이 방법의 성능은 어떠한가?
• RQ4 일관된 블록 할당은 확률적 블록모델에서 신뢰할 수 있는 모수 추정을 가능하게 하는가?
• RQ5 이 방법은 대규모 네트워크에 대해 계산적으로 확장 가능한가?

주요 결과

• 제안된 임베딩 방법은 일관된 블록 할당을 달성하며, 네트워크 크기가 증가함에 따라 잘못 할당된 노드의 비율이 0으로 수렴한다.
• 이 방법은 방향성 있는 그래프와 비방향성 그래프 모두에서 일관성을 유지한다.
• 노드 수와 함께 느리게 증가하는 블록 수가 있어도 블록 할당의 일관성이 유지된다.
• 일관된 블록 할당은 확률적 블록모델에서 모수 추정의 일관성을 가능하게 한다.
• 효율적인 행렬 분해와 저랭크 임베딩에 기반함으로써 매우 큰 그래프에 대해서도 계산적으로 실현 가능한 방법이다.
• 평균 제곱오차 최소화 기준은 임bedded된 노드 벡터를 블록으로 안정적이고 정확하게 군집화하는 데 기여한다.