[논문 리뷰] Vertex-Centric Graph Processing: Good, Bad, and the Ugly

Arijit Khan|arXiv (Cornell University)|2016. 12. 22.

Graph Theory and Algorithms참고 문헌 20인용 수 5

한 줄 요약

이 논문은 Pregel과 Giraph과 같은 버텍스 중심 그래프 처리 프레임워크를 분석하여 계산 오버헤드와 워크로드 불균형을 평가한다. 대부분의 버텍스 중심 구현체가 최적의 순차적 대응 구현체보다 더 많은 작업을 수행하고 반복 횟수가 많거나 로드 불균형이 심한 것으로 밝혀졌으며, 오직 옐러르 투어 트리 알고리즘을 제외한 모든 경우에서 이러한 문제가 발생한다. 이는 이 모델에서 특정 그래프 알고리즘을 효율적으로 표현하는 데에 근본적인 한계가 있음을 시사한다.

ABSTRACT

We study distributed graph algorithms that adopt an iterative vertex-centric framework for graph processing, popularized by the Google's Pregel system. Since then, there are several attempts to implement many graph algorithms in a vertex-centric framework, as well as efforts to design optimization techniques for improving the efficiency. However, to the best of our knowledge, there has not been any systematic study to compare these vertex-centric implementations with their sequential counterparts. Our paper addresses this gap in two ways. (1) We analyze the computational complexity of such implementations with the notion of time-processor product, and benchmark several vertex-centric graph algorithms whether they perform more work with respect to their best-known sequential solutions. (2) Employing the concept of balanced practical Pregel algorithms, we study if these implementations suffer from imbalanced workload and large number of iterations. Our findings illustrate that with the exception of Euler tour tree algorithm, all other algorithms either perform more work than their best-known sequential approach, or suffer from imbalanced workload/ large number of iterations, or even both. We also emphasize on graph algorithms that are fundamentally difficult to be expressed in vertex-centric frameworks, and conclude by discussing the road ahead for distributed graph processing.

연구 동기 및 목표

• 버텍스 중심 그래프 구현체를 그들의 최적 순차적 대응 구현체와 비교하여 계산 작업의 측면에서 체계적으로 평가하기.
• 버텍스 중심 알고리즘이 반복 횟수가 많거나 워크로드 불균형을 겪는지 여부를 Balanced Practical Pregel Algorithms (BPPA) 지표를 사용해 분석하기.
• 버텍스 중심 프레임워크에서 효율적으로 표현하기가 본질적으로 어려운 그래프 알고리즘을 특정하기.
• 분산 그래프 알고리즘의 복잡도 측정 도구로 시간-프로세서 곱을 평가하기.
• 미래 연구를 안내하기 위해 분산 그래프 처리 분야에서의 핵심 과제와 열린 문제를 규명하기.

제안 방법

• 논문은 시간-프로세서 곱 지표를 사용하여 버텍스 중심 구현체의 총 계산 작업을 순차적 솔루션 대비 정량화한다.
• BPPA(Balanced Practical Pregel Algorithms) 프레임워크를 적용하여 구현체가 높은 반복 횟수나 워크로드 불균형을 겪는지 평가한다.
• 저자들은 페이지랭크, 연결 요소, 그래프 시뮬레이션 등 널리 사용되는 20개의 그래프 알고리즘에 대해 다수의 버텍스 중심 시스템에서 벤치마크를 실시한다.
• 각 알고리즘에 대해 메시지 복잡도, 슈퍼스텝당 계산량, 슈퍼스텝 수를 분석하여 시간-프로세서 곱을 계산한다.
• 유도된 시간-프로세서 곱을 각 문제의 최적 순차적 알고리즘의 알려진 시간 복잡도와 비교한다.
• 특히 하위그래프 중심 또는 다단계 이웃 탐색 계산을 위한 구조적 한계를 식별한다.

실험 결과

연구 질문

• RQ1 버텍스 중심 그래프 알고리즘의 구현체는 그들의 최적 순차적 대응 구현체보다 더 많은 계산 작업을 수행하는가?
• RQ2 버텍스 중심 구현체가 워크로드 불균형이나 과도한 반복 횟수로 인해 얼마나 심각하게 영향을 받는가?
• RQ3 어떤 그래프 알고리즘이 버텍스 중심 모델에서 효율적으로 표현하기가 본질적으로 어려운가?
• RQ4 버텍스 중심 구현체의 시간-프로세서 곱은 최적 순차적 복잡도와 어떻게 비교되는가?
• RQ5 버텍스 중심 모델이 분산 그래프 처리에 있어 핵심적인 제약 조건은 무엇인가?

주요 결과

• 에일러 투어 트리 알고리즘을 제외한 분석된 모든 버텍스 중심 구현체는 시간-프로세서 곱 측정 기준으로 최적 순차적 대응 구현체보다 더 많은 작업을 수행한다.
• 그래프 시뮬레이션 알고리즘은 시간-프로세서 곱이 O(m²(nq + mq))로, 동일 문제에 대해 알려진 최적 순차적 알고리즘의 복잡도를 초과한다.
• 많은 버텍스 중심 구현체가 높은 반복 횟수를 겪고 있으며, 슈퍼스텝 수는 O(m)로 상한선이 설정되어 있어 O(log n)보다 점점 더 커지는 점근적 증가를 보이며, BPPA 기준을 위반한다.
• 그래프 시뮬레이션의 슈퍼스텝당 메시지 복잡도는 O(mnq)로, 매칭 세트의 반복적 전파로 인한 높은 통신 오버헤드를 나타낸다.
• 논문은 하위그래프 중심 작업인 국소 클러스터링, 삼각형 수세기, 커뮤니티 탐지 등이 높은 메모리 및 통신 비용으로 인해 잘 지원되지 않는다고 규명한다.
• 연구는 버텍스 중심 모델이 분산 유니온-파인드와 같이 전역 조율나 또는 엣지 스트림 처리가 필요한 알고리즘에 부적합하다고 결론 내리며, 대체 프로그래밍 모델의 필요성을 강조한다.