[논문 리뷰] Gunrock: GPU Graph Analytics

Yangzihao Wang, Yuechao Pan외 9명|arXiv (Cornell University)|2017. 01. 04.

Graph Theory and Algorithms참고 문헌 62인용 수 11

한 줄 요약

Gunrock는 데이터 중심, 프론티어 중심 프로그래밍 모델을 사용하여 그래프 원소를 효율적으로 구현할 수 있도록 하는 고성능 GPU 가속 그래프 분석 프레임워크입니다. 정점과 간선 프론티어를 중심으로 계산을 추상화하고 GPU 전용 최적화를 통합함으로써, 손으로 최적화된 GPU 커널과 유사한 성능을 달성하면서도 고수준의 프로그래머빌리티와 최소한의 GPU 프로그래밍 전문 지식을 유지합니다.

ABSTRACT

For large-scale graph analytics on the GPU, the irregularity of data access and control flow, and the complexity of programming GPUs, have presented two significant challenges to developing a programmable high-performance graph library. "Gunrock", our graph-processing system designed specifically for the GPU, uses a high-level, bulk-synchronous, data-centric abstraction focused on operations on a vertex or edge frontier. Gunrock achieves a balance between performance and expressiveness by coupling high performance GPU computing primitives and optimization strategies with a high-level programming model that allows programmers to quickly develop new graph primitives with small code size and minimal GPU programming knowledge. We characterize the performance of various optimization strategies and evaluate Gunrock's overall performance on different GPU architectures on a wide range of graph primitives that span from traversal-based algorithms and ranking algorithms, to triangle counting and bipartite-graph-based algorithms. The results show that on a single GPU, Gunrock has on average at least an order of magnitude speedup over Boost and PowerGraph, comparable performance to the fastest GPU hardwired primitives and CPU shared-memory graph libraries such as Ligra and Galois, and better performance than any other GPU high-level graph library.

연구 동기 및 목표

• GPU 기반 그래프 분석에서 비정규적인 메모리 액세스와 제어 흐름 문제를 해결합니다.
• GPU 그래프 처리에서 고성능과 프로그래머빌리티 사이의 격차를 메웁니다.
• 최소한의 GPU 프로그래밍 전문 지식으로 다양한 그래프 원소를 효율적으로 구현할 수 있도록 합니다.
• 로드 밸런싱, 커널 융합, 우선순위 큐와 같은 고급 GPU 최적화 기법들을 고수준 추상화에 통합합니다.
• 데이터 과학자, 알고리즘 설계자, 연구자들이 GPU에서 그래프 알고리즘을 개발하고 벤치마킹할 수 있도록 성능이 뛰어나고 오픈소스인 프레임워크를 제공합니다.

제안 방법

• 정점과 간선 프론티어를 주요 계산 단위로 삼는 버블-동기적, 데이터 중심 추상화를 채택합니다.
• 프로그래머가 '무엇을' 수행할지 지정할 수 있도록 고수준 API를 제공하며, '어떻게' 병렬화하거나 최적화할지에 대한 구체적 지시는 생략합니다.
• 런타임 내부에서 커널 융합, 푸시-풀 트래버설, 아이디포텐트 트래버설, 이중 우선순위 큐와 같은 저수준 GPU 최적화를 투명하게 통합합니다.
• GPU 워프와 블록 간의 비정규적인 작업 분포를 관리하기 위해 동적 로드 밸런싱 및 워크 효율 전략을 적용합니다.
• 메모리 액세스를 최적화하기 위해 데이터 재구성 및 간선 목록 그룹화를 통해 비연합 메모리 트랜잭션을 줄입니다.
• 필수 정보만 GPU에 로드함으로써 정점과 간선에 대한 풍부한 데이터를 지원하여 복잡한 그래프 쿼리 및 분석을 가능하게 합니다.

실험 결과

연구 질문

• RQ1 GPU 그래프 분석을 위한 고수준 프로그래밍 모델이 손으로 최적화된 하드웨어 기반 GPU 커널과 유사한 성능을 달성할 수 있을까요?
• RQ2 데이터 중심 프론티어 추상화가 트래버설 기반, 랭킹, 카운팅 알고리즘을 포함한 다양한 그래프 원소를 얼마나 효과적으로 지원할 수 있을까요?
• RQ3 GPU 전용 최적화 기법들이 성능 손실 없이 성능을 유지하거나 저수준 프로그래밍 없이도 자동으로 적용될 수 있을까요?
• RQ4 Gunrock의 성능는 CPU 기반 공유 메모리 그래프 라이브러리와 다른 GPU 프로그래머블 프레임워크와 비교해 어떻게 될까요?
• RQ5 프레임워크는 증분 그래프 업데이트와 함께 풍부한 정점/간선 데이터를 유지하면서도 효율성과 확장성을 유지를 할 수 있을까요?

주요 결과

• 단일 GPU에서 Gunrock는 다양한 그래프 원소에 대해 Boost와 PowerGraph 대비 최소한 한 계단 이상의 속도 향상을 달성합니다.
• Gunrock의 성능는 가장 빠른 하드웨어 기반 GPU 원소와 유사하며, Ligra와 Galois와 같은 CPU 공유 메모리 라이브러리의 성능을 따라하거나 초월합니다.
• Gunrock는 모든 다른 GPU 고수준 그래프 라이브러리보다 성능 면에서 뛰어나며, 일반 목적의 GPU 그래프 분석 프레임워크로서의 효과성을 입증합니다.
• 프레임워크를 통해 몇 백 줄의 코드와 최소한의 GPU 프로그래밍 지식으로도 새로운 그래프 원소를 구현할 수 있어 개발 오버헤드를 크게 줄였습니다.
• 푸시-풀 트래버설 및 이중 우선순위 큐와 같은 최적화 전략을 고수준 추상화에 통합함으로써 높은 성능과 유연성을 동시에 확보할 수 있었습니다.
• Gunrock는 Apache 2.0 라이선스 하에 오픈소스로 공개되었으며, http://gunrock.github.io/ 에서 이용 가능하며 GPU 그래프 처리의 기준이 되는 벤치마크 역할을 하고 있습니다.