[논문 리뷰] Improving the performance of the linear systems solvers using CUDA

Bogdan Oancea, Tudorel Andrei외 1명|arXiv (Cornell University)|2015. 11. 23.

Parallel Computing and Optimization Techniques참고 문헌 18인용 수 3

한 줄 요약

이 논문은 CCUDA 프레임워크를 활용하여 GPU 병렬 처리를 이용해 최적화된 CPU 구현 대비 최대 80배의 성능 향상을 달성하는 선형 시스템을 해결하기 위한 CUDA 기반 라이브러리를 제시한다. 이 방법은 대규모 과학 계산 워크로드를 대상으로 하여 행렬 연산을 NVIDIA GPU로 이관함으로써 밀도 높은 선형 시스템을 해결하는 데 있어 뚜렷한 성능 향상을 보여준다.

ABSTRACT

Parallel computing can offer an enormous advantage regarding the performance for very large applications in almost any field: scientific computing, computer vision, databases, data mining, and economics. GPUs are high performance many-core processors that can obtain very high FLOP rates. Since the first idea of using GPU for general purpose computing, things have evolved and now there are several approaches to GPU programming: CUDA from NVIDIA and Stream from AMD. CUDA is now a popular programming model for general purpose computations on GPU for C/C++ programmers. A great number of applications were ported to CUDA programming model and they obtain speedups of orders of magnitude comparing to optimized CPU implementations. In this paper we present an implementation of a library for solving linear systems using the CCUDA framework. We present the results of performance tests and show that using GPU one can obtain speedups of about of approximately 80 times comparing with a CPU implementation.

연구 동기 및 목표

• 대규모 과학 및 공학 애플리케이션을 위한 선형 시스템 솔버의 가속.
• 밀도 높은 선형 대수 연산을 위한 CUDA를 이용한 GPU 가속의 성능 이점 평가.
• CCUDA 프레임워크를 사용하여 GPU 가속 솔버 라이브러리의 구현 및 벤치마킹.
• 고도로 최적화된 CPU 구현 대비 GPU 기반 솔버의 성능 비교.

제안 방법

• NVIDIA GPU를 위한 CUDA 프로그래밍 모델을 사용한 선형 시스템 솔버 라이브러리 구현.
• CPU 기반 선형 대수 커널을 CUDA 커널을 사용하여 GPU 하드웨어에서 실행 가능하도록 이식.
• 선형 시스템의 행렬 분해 및 해법 단계를 가속화하기 위해 GPU의 막대한 병렬 처리 능력 활용.
• GPU에서의 최적 점유율과 처리량을 극대화하기 위해 메모리 액세스 패턴과 커널 실행 구성 설계.
• 저수준 CUDA 세부 정보를 추상화하고 이식성을 향상시키기 위해 CCUDA 프레임워크 사용.
• 지연 시간을 줄이고 FLOP 효율을 향상시키기 위해 커널 실행 최적화 및 메모리 연속성 확보.

실험 결과

연구 질문

• RQ1 CUDA를 통한 GPU 가속은 CPU 기반 구현 대비 선형 시스템 솔버의 성능을 뚜렷이 향상시킬 수 있는가?
• RQ2 밀도 높은 선형 대수 연산을 GPU로 이관할 경우 어떤 정도의 성능 향상을 기대할 수 있는가?
• RQ3 CCUDA 프레임워크는 GPU에서 이식성 있고 고성능의 선형 솔버 개발을 어떻게 지원하는가?
• RQ4 GPU 가속 선형 시스템 해결에서 주요 성능 저하 요인은 무엇이며, 이를 어떻게 완화할 수 있는가?

주요 결과

• GPU 가속 솔버는 최적화된 CPU 구현 대비 최대 약 80배의 성능 향상을 달성했다.
• 성능 향상은 현대 GPU의 막대한 병렬 처리 능력과 높은 메모리 대역폭 덕분이었다.
• CCUDA 프레임워크 덕분에 선형 시스템 솔버를 GPU로 효율적으로 이식할 수 있었으며 개발 오버헤드는 제한적이었다.
• 결과적으로 GPU 가속은 과학 계산에서 대규모 밀도 높은 선형 시스템에 매우 효과적임을 입증했다.
• 메모리 액세스 최적화와 커널 실행 구성 설정이 GPU에서 고성능을 달성하는 데 핵심적인 역할을 했다.