[논문 리뷰] Provably Efficient GPU Algorithms.

Nodari Sitchinava, Volker Weichert|arXiv (Cornell University)|2013. 06. 21.

Parallel Computing and Optimization Techniques참고 문헌 17인용 수 8

한 줄 요약

이 논문은 공유 메모리와 백킹 컨FLICT 모델링을 통합함으로써 병렬 외부 메모리(PEM) 모델을 확장한 새로운 GPU 알고리즘 모델을 제안한다. 이 모델은 증명 가능하게 효율적인 GPU 알고리즘을 가능하게 하며, 백킹 컨FLICT가 없는 알고리즘 설계를 위한 프레임워크를 제시한다. 이를 통해 공유 메모리에서 발생하는 백킹 컨FLICT가 없는 첫 번째 정렬 알고리즘이 제안되며, 이는 THRUST 라이브러리의 GPU 병합 정렬 성능을 크게 향상시킨다.

ABSTRACT

In this paper we present an abstract model for algorithm design on GPUs by extending the parallel external memory (PEM) model with computations in internal memory (commonly known as shared memory in GPU literature) defined in the presence of memory banks and bank conflicts. We also present a framework for designing bank conflict free algorithms on GPUs. Using our framework we develop the first shared memory sorting algorithm that incurs no bank conflicts. Our sorting algorithm can be used as a subroutine for comparison-based GPU sorting algorithms to replace current use of sorting networks in shared memory. We show experimentally that such substitution improves the runtime of the mergesort implementation of the THRUST library.

연구 동기 및 목표

• 공유 메모리와 백킹 컨FLICT를 통합한 GPU 알고리즘 설계를 위한 추상 모델을 개발하는 것.
• 알고리즘 실행 중 GPU 공유 메모리의 백킹 컨FLICT로 인한 성능 저하 문제를 해결하는 것.
• 백킹 컨FLICT가 없는 GPU 알고리즘을 체계적으로 설계하기 위한 프레임워크를 개발하는 것.
• 백킹 컨FLICT가 없는 첫 번째 공유 메모리 정렬 알고리즘을 구축하는 것.
• GPU 라이브러리에서 정렬 네트워크를 새로운 알고리즘으로 대체함으로써 실용적인 성능 향상을 입증하는 것.

제안 방법

• 병렬 외부 메모리(PEM) 모델을 내부 메모리 연산을 포함하도록 확장하여, 메모리 뱅크와 백킹 컨FLICT를 구체적으로 모델링한다.
• 백킹 컨FLICT를 탐지하고 방지하기 위해 공유 메모리 액세스 패턴을 공식적으로 추상화한다.
• 모든 공유 메모리 액세스가 구축 과정에서 백킹 컨FLICT가 없도록 보장하는 체계적인 알고리즘 프레임워크를 개발한다.
• 백킹 컨FLICT가 전혀 없는 공유 메모리 내에서만 작동하는 새로운 비교 기반 정렬 알고리즘을 설계한다.
• 새로운 정렬 알고리즘을 GPU 병합 정렬 구현의 서브루틴으로 활용하여 기존의 정렬 네트워크를 대체한다.
• THRUST 라이브러리의 병합 정렬에서 실험적 평가를 통해 성능 향상을 검증한다.

실험 결과

연구 질문

• RQ1 GPU의 공유 메모리 액세스 패턴을 어떻게 공식적으로 모델링하여 백킹 컨FLICT를 고려할 수 있는가?
• RQ2 백킹 컨FLICT가 없는 GPU 알고리즘을 설계할 수 있는 알고리즘 프레임워크는 무엇인가?
• RQ3 비교 기반 정렬 알고리즘을 공유 메모리에서 백킹 컨FLICT 없이 구현할 수 있는가?
• RQ4 GPU 라이브러리에서 정렬 네트워크를 컨FLICT가 없는 공유 메모리 정렬로 대체함으로써 달성할 수 있는 성능 향상은 무엇인가?
• RQ5 새로운 알고리즘이 실질적으로 GPU 기반 병합 정렬의 효율성을 어떻게 향상시키는가?

주요 결과

• 제안된 모델은 PEM을 공유 메모리와 백킹 컨FLICT 모델링을 포함하도록 성공적으로 확장하여 GPU 알고리즘의 공식적 분석을 가능하게 하였다.
• 프레임워크를 통해 설계 과정에서 백킹 컨FLICT가 없는 알고리즘을 구축할 수 있어, 성능 저하의 주요 원인을 제거하였다.
• 백킹 컨FLICT가 없는 첫 번째 공유 메모리 정렬 알고리즘이 성공적으로 구현되었고, 정당성도 입증되었다.
• 실험 결과, 정렬 네트워크를 새로운 공유 메모리 정렬 알고리즘으로 대체함으로써 THRUST 라이브러리의 병합 정렬 런타임이 감소하는 것으로 나타났다.
• 성능 향상은 측정 가능하며 뚜렷하여, 공유 메모리 연산에서 백킹 컨FLICT를 제거함으로써 실질적인 영향을 미친다는 것이 입증되었다.