[논문 리뷰] Stochastic Kronecker Graph on Vertex-Centric BSP

Ernest K. Ryu, Sean Choi|arXiv (Cornell University)|2012. 08. 10.

Graph Theory and Algorithms참고 문헌 5인용 수 4

한 줄 요약

이 논문은 Stochastic Kronecker Graph (SKG)의 구조적 특성을 유지하면서도 Apache Giraph과 같은 vertex-centric BSP 프레임워크에서 효율적이고 뻔한 병렬 처리가 가능한 새로운 네트워크 생성 모델인 포아송 스토케스틱 크로네커 그래프(PSKG)를 제안한다. 정점의 출도를 독립적인 포아송 랜덤 변수로 모델링하고 재귀적 엣지 라우팅을 사용함으로써 상호작용 없는 병렬 처리를 가능하게 하여 SKG보다 분산 그래프 처리 환경에서 성능과 확장성 면에서 우수한 성능을 달성한다.

ABSTRACT

Recently Stochastic Kronecker Graph (SKG), a network generation model, and vertex-centric BSP, a graph processing framework like Pregel, have attracted much attention in the network analysis community. Unfortunately the two are not very well-suited for each other and thus an implementation of SKG on vertex-centric BSP must either be done serially or in an unnatural manner. In this paper, we present a new network generation model, which we call Poisson Stochastic Kronecker Graph (PSKG), that generate edges according to the Poisson distribution. The advantage of PSKG is that it is easily parallelizable on vertex-centric BSP, requires no communication between computational nodes, and yet retains all the desired properties of SKG.

연구 동기 및 목표

• Pregel과 Apache Giraph과 같은 vertex-centric BSP 프레임워크에서 Stochastic Kronecker Graph (SKG)의 비효율성과 비자연스러운 병렬화 문제를 해결하기 위해.
• 실세계 네트워크 특성인 파워-법칙도 분포와 소월드 특성 등을 재현할 수 있는 능력을 유지하는 네트워크 생성 모델을 개발하기 위해.
• 포아송 분포를 따르는 출도를 사용하여 엣지 생성을 재정의함으로써 진정으로 vertex-centric이고 통신을 피하는 병렬화를 가능하게 하기 위해.
• PSKG가 핵심 그래프 패턴 측면에서 이론적으로도 실험적으로도 SKG와 동일한 성질을 가지며, vertex-centric BSP 실행과의 천연 호환성을 보여주기 위해.

제안 방법

• 정점의 출도를 크로네커 행렬의 곱에 비례하는 비동일한 포아송 랜덤 변수로 모델링한다.
• 정점 ID의 재귀적 분해를 통해 애초에 인접 행렬을 생성하지 않고도 엣지의 목적지를 결정하며, SKG의 계층적 분할 방식을 모방한다.
• 엣지 생성을 두 단계로 분해한다: (1) 각 정점의 출도를 포아송 표본 추출을 통해 할당하고, (2) 각 엣지에 대해 초기 행렬의 전이 확률을 사용해 재귀적으로 목적지 노드를 선택한다.
• 베이즈의 정리에 기반한 다항분포와 포아송 분포 간의 조건부 등가성 덕분에 각 정점 수준의 독립적 계산을 가능하게 한다.
• 각 정점이 자체의 출도와 엣지 목적지를 독립적으로 계산함으로써 상호작용 없는 병렬 처리를 실현하는 vertex-centric 방식으로 알고리즘을 구현한다.
• 이론적 극한을 갖는 균형 잡힌 범위 기반 정점 할당을 통해 워커 간 최대 작업 부담 편차를 최소화하며, 불균형에 대한 이론적 경계를 설정한다.

실험 결과

연구 질문

• RQ1 SKG의 구조적 현실성은 유지하면서도 vertex-centric BSP 모델에서 천연로 병렬화 가능한 네트워크 생성 모델을 설계할 수 있는가?
• RQ2 어떻게 엣지 생성을 재구성하여 vertex-centric 그래프 프레임워크에서 상호작용 없는 통신을 제거할 수 있는가?
• RQ3 실제 가정 하에 분산된 PSKG 구현에서 이론적 불균형은 어느 정도이며, 이를 유한한 범위 내로 제한할 수 있는가?
• RQ4 PSKG가 생성한 그래프가 SKG가 생성한 그래프와 degree distribution, hop plot, 특이값 등의 핵심 네트워크 패턴에서 어느 정도 유사한가?

주요 결과

• PSKG는 동일한 파rameter 조건 하에서 SKG와 동일한 degree distribution, hop plot, scree plot, 네트워크 값 등을 실험적으로 구분할 수 없을 정도로 생성한다.
• PSKG에서 워커 간 최대 로드 불균형은 [E/Nw, E/Nw + δ] 범위 내로 제한되며, 여기서 δ ≈ √(2E/Nw) × √(log Nw + |log|log(1−α)||) 이다. 이는 근사적으로 최적의 작업 분배를 보장한다.
• PSKG는 vertex-centric BSP 프레임워크에서 완전히 뻔한 병렬 처리를 가능하게 하여 엣지 생성 중 상호작용 없는 통신이 필요 없게 된다.
• 다항분포와 포아송 분포 간의 조건부 등가성 덕분에 PSKG는 이론적으로 SKG와 동일하며, 모든 원하는 네트워크 특성을 유지한다.
• PSKG는 SKG와 동일한 모델링 정밀도를 유지하면서도 분산 및 vertex-centric 환경에서 훨씬 더 효율적이다.
• 제안된 로드 밸런싱 알고리즘은 각 워커에 연속적인 정점 ID 범위를 할당하여 조율 비용을 최소화하고 효율적이고 확장 가능한 실행을 가능하게 한다.