[논문 리뷰] Fast Sparse Matrix-Vector Multiplication on GPUs: Implications for Graph Mining

Xintian Yang, Srinivasan Parthasarathy외 1명|arXiv (Cornell University)|2011. 03. 12.

Graph Theory and Algorithms참고 문헌 10인용 수 16

한 줄 요약

이 논문은 파워-법칙 그래프에서 스parse matrix-vector 곱셈(SpMV)을 최적화하는 GPU 전용 비모수적 희소 행렬 표현 방식을 제안한다. 새로운 타일링 전략과 적응형 데이터 레이아웃을 결합하여, 기존 최고 수준의 GPU SpMV 구현보다 최대 3.5배 빠른 성능 향상을 이룩하였으며, 특히 PageRank, HITS, Restart과 함께 움직이는 랜덤 워크와 같은 그래프 마이닝 워크로드에서 빠른 성능 향상을 보였다.

ABSTRACT

Scaling up the sparse matrix-vector multiplication kernel on modern Graphics Processing Units (GPU) has been at the heart of numerous studies in both academia and industry. In this article we present a novel non-parametric, self-tunable, approach to data representation for computing this kernel, particularly targeting sparse matrices representing power-law graphs. Using real data, we show how our representation scheme, coupled with a novel tiling algorithm, can yield significant benefits over the current state of the art GPU efforts on a number of core data mining algorithms such as PageRank, HITS and Random Walk with Restart.

연구 동기 및 목표

• 대규모 그래프 워크로드에서 GPU에서의 스parse matrix-vector 곱셈(SpMV) 성능 저하 문제를 해결한다.
• 파워-법칙 그래프에 부적합한 고정 또는 파rameter화된 데이터 표현에 의존하는 기존 GPU SpMV 접근 방식의 한계를 극복한다.
• 수동 조정이 필요 없는 입력 행렬 특성에 자동으로 적응하는 자가조정형 비모수적 데이터 표현을 개발한다.
• GPU에서 SpMV를 최적화하여 핵심 그래프 마이닝 알고리즘인 PageRank, HITS, Restart과 함께 움직이는 랜덤 워크의 성능을 향상시킨다.
• 실제 세계의 그래프 응용에서 발생하는 다양한 희소 행렬에 대해 효율적이고 자동으로 구성 가능한 SpMV 커널을 제공한다.

제안 방법

• 파워-법칙 그래프의 희소성 패턴과 도수 분포에 따라 동적으로 적응하는 비모수적 데이터 표현을 도입한다.
• GPU 워프에서의 연속 메모리 액세스와 로드 밸런싱을 최적화한 새로운 타일링 알고리즘을 설계한다.
• 행렬 특성의 런타임 프로파일링을 기반으로 최적의 타일 크기와 데이터 레이아웃을 선택하는 자가조정 메커니즘을 사용한다.
• GPU 스트리밍 다중처리기에서 메모리 액세스 분산을 최소화하고 할당률을 극대화하도록 행렬 저장 구조를 구성한다.
• 파워-법칙 그래프에서 흔히 볼 수 있는 비대칭 도수 분포를 활용하는 맞춤형 커널을 통합한다.
• 사용자 입력이나 행렬 구조에 대한 사전 지식 없이 커널 실행 시점에 데이터 레이아웃과 타일링 파rameter를 자동으로 조정한다.

실험 결과

연구 질문

• RQ1 파워-법칙 그래프에서 유도된 행렬에 대해 GPU에서의 스parse matrix-vector 곱셈(SpMV)을 어떻게 최적화할 수 있는가? (이러한 그래프는 극도로 비대칭적인 도수 분포를 보인다.)
• RQ2 수동 파rameter 조정이 필요 없는 어떤 데이터 표현과 타일링 전략이 다양한 희소 행렬에서 높은 성능을 달성할 수 있는가?
• RQ3 자기조정형 비모수적 접근 방식이 실제 세계의 그래프 마이닝 워크로드에서 기존 GPU 최적화 SpMV 구현보다 얼마나 뛰어난 성능을 낼 수 있는가?
• RQ4 제안된 방법은 상태 최고 수준의 GPU SpMV 기법과 비교해 다양한 그래프 크기와 희소성 패턴에서 어떻게 스케일링되는가?
• RQ5 제안된 SpMV 최적화를 통해 PageRank, HITS, Restart과 함께 움직이는 랜덤 워크와 같은 핵심 그래프 마이닝 알고리즘에서 어떤 성능 향상이 달성될 수 있는가?

주요 결과

• 제안된 자가조정형 비모수적 표현은 실제 세계의 파워-법칙 그래프에서 기존 최고 수준의 GPU SpMV 구현보다 최대 3.5배 빠른 성능 향상을 달성한다.
• 모든 테스트 워크로드에서, 즉 PageRank, HITS, Restart과 함께 움직이는 랜덤 워크에서까지, 제안된 방법은 기존 최고 수준의 GPU SpMV 라이브러리보다 뛰어난 성능을 보였다.
• 타일링 전략은 메모리 연속성 향상과 로드 불균형 감소에 기여하여 GPU 할당률을 높이고 메모리 대역폭을 더 효과적으로 활용한다.
• 사용자 설정 없이도 자동으로 최적의 타일 크기와 데이터 레이아웃을 선택하는 자가조정 메커니즘이 성능 향상에 기여한다.
• 다양한 희소성과 도수 분포를 가진 행렬 전반에서 일관된 성능 향상이 이루어져 강건성을 입증한다.
• 중요도가 높은 테일이 긴 도수 분포를 가진 행렬에서 성능 향상이 가장 두드러지며, 이러한 분포는 사회망 및 웹 그래프와 같은 실제 세계의 그래프에서 흔히 볼 수 있다.