[논문 리뷰] Parallel Louvain Community Detection Optimized for GPUs

Richárd Forster|arXiv (Cornell University)|2018. 05. 28.

Wireless Communication Networks Research인용 수 3

한 줄 요약

이 논문은 CUDA를 사용하여 GPU 최적화된 병렬 구현을 통해 루바인 커뮤니티 탐지 알고리즘을 제시한다. 이는 알고리즘의 본질적인 순차성에 대비해 병렬 히وري스틱을 활용하여 이를 극복한다. 이 방법은 GeForce GTX 980에서 CPU 기반 병렬 구현 대비 이론적 최대 31배의 성능 향상과 실험적 최대 23배의 성능 향상을 달성하여 CERN의 협업 식별 프로젝트에서 유래한 대규모 그래프에서 모듈러리티 최적화를 크게 가속화한다.

ABSTRACT

Community detection now is an important operation in numerous graph based applications. It is used to reveal groups that exist within real world networks without imposing prior size or cardinality constraints on the set of communities. Despite its potential, the support for parallel computers is rather limited. The cause is largely the irregularity of the algorithm and the underlying heuristics imply a sequential nature. In this paper a GPU based parallelized version of the Louvain method is presented. The Louvain method is a multi-phase, iterative heuristic for modularity optimization. It was originally developed by Blondel et al. (2008), the method has become increasingly popular owing to its ability to detect high modularity community partitions in a fast and memory-efficient manner. The parallel heuristics used, were first introduced by Hao Lu et al. (2015). As the Louvain method is inherently sequential, it limits the possibility of scalable usage. Thanks to the proposed parallel heuristics, I observe how this method can behave on GPUs. For evaluation I implemented the heuristics using CUDA on a GeForce GTX 980 GPU and for testing Ive used organization landscapes from the CERN developed Collaboration Spotting project that involves patents and publications to visualize the connections in technologies among its collaborators. Compared to the parallel Louvain implementation running on 8 threads on the same machine that has the used GPU, the CUDA implementation is able to produce community outputs comparable to the CPU generated results, while providing absolute speedups of up to 30 using the GeForce GTX 980 consumer grade GPU.

연구 동기 및 목표

• 루바인 알고리즘의 비정규적이고 반복적이며 탐욕적인 성격으로 인해 병렬 아키텍처에서의 확장성에 한계가 있다는 문제를 해결하기 위해.
• CUDA를 사용하여 루바인 방법을 GPU로 이식하여 대규모 그래프에서 고성능 커뮤니티 탐지 기능을 제공하기 위해.
• 실세계 협업 그래프에서 다중 스레드 CPU 구현 대비 GPU 병렬 루바인 알고리즘의 성능을 평가하기 위해.
• GPU 효율성에 영향을 주는 성능 병목 현상과 구조적 요인을 규명하기 위해.

제안 방법

• Hao Lu 등(2015)이 제안한 병렬 히وري스틱을 도입하여 본질적으로 순차적인 루바인 알고리즘을 GPU 실행에 적합하도록 재구성하였다.
• GeForce GTX 980 GPU에서 CUDA를 사용하여 알고리즘을 구현하였으며, 호스트와 장치 간의 메모리 전송을 최소화하기 위해 관리하였다.
• 핵심 단계를 최적화: 커뮤니티 할당(모듈러리티 향상 계산), 그래프 유도(커뮤니티 집합), 이웃 처리.
• 인접 리스트와 가중 차수를 사용하여 GPU 스레드 간 병렬로 모듈러리티 향상을 효율적으로 계산하였다.
• 유사한 이웃 수를 가진 노드를 그룹화하여 스레드 분열을 줄이기 위해 노드 재정렬 히وري스틱을 적용하였다.
• CERN의 협업 식별 프로젝트에서 유래한 실제 그래프, 특히 coPapersDLBP와 friendster를 사용하여 성능을 평가하였다.

실험 결과

연구 질문

• RQ1 본질적으로 순차적인 루바인 알고리즘은 CUDA를 사용하여 GPU 아키텍처에서 효과적으로 병렬화될 수 있는가?
• RQ2 CPU 다중 스레드 구현 대비 GPU로 루바인의 모듈러리티 최적화를 이주시킬 경우 성능 향상은 어느 정도 기대할 수 있는가?
• RQ3 그래프 구조와 데이터 레이아웃은 커뮤니티 탐지 워크로드에서 GPU 성능에 어떤 영향을 미치는가?
• RQ4 GPU 병렬 루바인에서 지배적인 성능 병목 현상은 무엇이며, 알고리즘적 또는 메모리 최적화를 통해 이를 완화할 수 있는가?

주요 결과

• coPapersDLBP 그래프에서 GPU 버전은 8스레드 CPU 병렬 버전 대비 23배의 성능 향상을 기록하였으며, 이론적 최대 성능 향상은 31배였다.
• CNR 그래프에서 GPU의 단일 단계 모듈러리티 계산은 CPU 대비 7.2배 빠르며, 다른 테스트 케이스에서는 최대 20배 빠르게 작동하였다.
• 그래프 유도 단계는 GPU에서 28배 빠르게, 이웃 처리 단계는 16배 빠르게 작동하여 사전처리 단계에서 뚜렷한 성능 향상을 보였다.
• 모든 측정 단계에서 GPU 버전이 CPU 버전을 능가했다: t_onephase_gpu << t_onephase_cpu, t_induce_gpu << t_induce_cpu, t_neighbour_gpu << t_neighbour_cpu.
• 성능은 그래프 구조에 매우 의존적이었으며, Europe-osm 그래프는 비효율적인 재번호화로 인해 성능 향상이 없었다. 이는 데이터 레이아웃이 GPU 효율성에 영향을 준다는 것을 시사한다.
• 변동하는 노드 차수로 인한 스레드 분열이 성능 저하 요인이었으며, 이는 노드 재정렬을 통해 GPU 활용도를 추가로 향상시킬 수 있음을 시사한다.