[논문 리뷰] Component models for large networks

Janne Sinkkonen, Janne Aukia외 1명|ArXiv.org|2008. 03. 11.

Complex Network Analysis Techniques참고 문헌 28인용 수 22

한 줄 요약

이 논문은 대규모 희박 네트워크에서 확장 가능한 커뮤니티 탐지 기능을 제공하는 비모수 베이지안 모델인 커뮤니티를 위한 상호작용 구성요소 모델(ICMc)을 소개한다. 각 네트워크 링크가 은닉 구성요소에서 생성된 것으로 간주되며, 딜레트 프로세스 사전확률과 콜랩스드 지브스 샘플링을 사용하여, 최대 670,000개의 노드와 189만 개의 링크를 가진 네트워크에서 불확실성과 확장성 측면에서 기존 방법을 능가하는 커뮤니티 구조를 효율적으로 탐지한다.

ABSTRACT

Being among the easiest ways to find meaningful structure from discrete data, Latent Dirichlet Allocation (LDA) and related component models have been applied widely. They are simple, computationally fast and scalable, interpretable, and admit nonparametric priors. In the currently popular field of network modeling, relatively little work has taken uncertainty of data seriously in the Bayesian sense, and component models have been introduced to the field only recently, by treating each node as a bag of out-going links. We introduce an alternative, interaction component model for communities (ICMc), where the whole network is a bag of links, stemming from different components. The former finds both disassortative and assortative structure, while the alternative assumes assortativity and finds community-like structures like the earlier methods motivated by physics. With Dirichlet Process priors and an efficient implementation the models are highly scalable, as demonstrated with a social network from the Last.fm web site, with 670,000 nodes and 1.89 million links.

연구 동기 및 목표

• 대규모 네트워크에서 불확실성 인식 및 확장성에 유의한 커뮤니티 탐지 방법의 부족을 해결하기 위해.
• 사전에 커뮤니티 수를 지정하지 않고도 커뮤니티 구조를 탐지할 수 있는 비모수 베이지안 모델을 개발하기 위해.
• 노드 기반 모델 대비 직접 링크를 은닉 구성요소에서 생성된 것으로 모델링하여 확장성과 해석 가능성 향상을 위해.
• 딜레트 프로세스 사전확률과 함께 콜랩스드 지브스 샘플링을 사용하여 대규모 네트워크에서 효율적인 추론을 가능하게 하기 위해.

제안 방법

• ICMc는 전체 네트워크를 링크의 집합으로 간주하며, 각 링크는 커뮤니티를 나타내는 은닉 구성요소에 할당된다.
• 각 구성요소는 노드별 구성요소 비율에 따라 링크를 생성하며, 구성요소 할당은 비모수 추론을 가능하게 하기 위해 딜레트 프로세스 사전확률을 기반으로 한다.
• 모델은 충분통계량을 바탕으로 각 구성요소에 링크를 할당할 사후확률을 계산하여 구성요소 할당을 추론하는 콜랩스드 지브스 샘플링을 사용한다.
• 샘플링 공식은 구성요소별 링크 수와 딜레트 프로세스 농도 파라미터를 모두 포함하여 자동으로 모델 복잡도를 조정할 수 있도록 한다.
• 공동확률을 인수분해하여 효율적인 링크 기반 조건부 확률 계산이 가능하게 하여 반복적인 지브스 업데이트를 가능하게 한다.
• 희박 네트워크를 지원하며, 최대 10^6개의 노드를 가진 네트워크까지 확장 가능하다. 이는 Last.fm 소셜 네트워크에서 입증되었다.

실험 결과

연구 질문

• RQ1 링크를 분석의 기본 단위로 간주하는 구성요소 모델이 노드 기반 모델 대비 커뮤니티 탐지의 확장성과 정확도에서 뛰어난 성능을 보일 수 있는가?
• RQ2 딜레트 프로세스와 같은 비모수 베이지안 사전확률을 어떻게 관계 데이터에 효과적으로 적용하여 커뮤니티 수를 사전에 지정하지 않고도 커뮤니티 구조를 추론할 수 있는가?
• RQ3 대규모 희박 네트워크(수백만 개의 노드 및 간선)에서 링크 기반 구성요소 모델의 계산 효율성은 어떠한가?
• RQ4 결정론적 모듈래리티 기반 방법과 비교해 복잡한 네트워크 데이터의 불확실성(예: 누락되거나 잘못된 링크)을 모델이 어떻게 다루는가?

주요 결과

• ICMc는 670,000개의 노드와 189만 개의 링크를 가진 대규모 Last.fm 소셜 네트워크에서 커뮤니티 구조를 성공적으로 탐지하여 높은 확장성을 입증하였다.
• 딜레트 프로세스 사전확률 덕분에 커뮤니티 수를 사전에 지정하지 않아도 효과적인 커뮤니티 탐지가 가능하다.
• 콜랩스드 지브스 샘플링은 충분통계량에서 유도된 조건부 확률을 사용하여 한 번에 한 링크의 구성요소 할당을 업데이트함으로써 효율적인 추론을 가능하게 한다.
• 링크 중심의 생성 과정 덕분에 SSN-LDA와 같은 노드 기반 구성요소 모델보다 조화적인 커뮤니티 구조를 더 잘 포착한다.
• 딜레트 프로세스 사전확률의 사용으로 데이터 다양성에 따라 구성요소 수를 자동으로 조정할 수 있어 과적합을 방지할 수 있다.