[논문 리뷰] Numerical Study of Geometric Multigrid Methods on CPU--GPU Heterogeneous Computers

Chunsheng Feng, Shi Shu외 2명|arXiv (Cornell University)|2012. 08. 21.

Advanced Numerical Methods in Computational Mathematics참고 문헌 28인용 수 6

한 줄 요약

이 논문은 CPU-GPU 이종 아키텍처에서 기하학적 다중격자(GMG) 방법의 수치적 연구를 제시하며, GPU에서 최적화된 FMG 솔버가 2D에서는 CPU 전용 OpenMP 구현 대비 최대 11배, 3D에서는 10배 빠른 성능을 보임을 입증한다. 1600만 개의 미지수를 가진 문제에서 FMG 방법은 2D에서 cuFFT 라이브러리 대비 33% 빠르고, 3D에서는 23% 더 빠르며, 에너지 효율성과 비용 효율성 면에서도 뛰어나다.

ABSTRACT

The geometric multigrid method (GMG) is one of the most efficient solving techniques for discrete algebraic systems arising from elliptic partial differential equations. GMG utilizes a hierarchy of grids or discretizations and reduces the error at a number of frequencies simultaneously. Graphics processing units (GPUs) have recently burst onto the scientific computing scene as a technology that has yielded substantial performance and energy-efficiency improvements. A central challenge in implementing GMG on GPUs, though, is that computational work on coarse levels cannot fully utilize the capacity of a GPU. In this work, we perform numerical studies of GMG on CPU--GPU heterogeneous computers. Furthermore, we compare our implementation with an efficient CPU implementation of GMG and with the most popular fast Poisson solver, Fast Fourier Transform, in the cuFFT library developed by NVIDIA.

연구 동기 및 목표

• CPU-GPU 이종 컴퓨팅 플랫폼에서 기하학적 다중격자(GMG) 방법의 성능 평가를 위한 것이다.
• 다중격자 알고리즘에서 굵은 격자 수준에서 GPU 자원이 낭비되는 문제를 해결하기 위한 것이다.
• 포isson 방정식을 해결하기 위해 최신 기술인 cuFFT 라이브러리와 비교하여 GPU 가속 FMG 솔버의 효율성을 평가하기 위한 것이다.
• 다양한 문제 크기와 격자 해상도에서 GMG의 확장성과 성능을 평가하기 위한 것이다.
• PDE 해법에 있어 GPU 기반 GMG의 계산 성능 및 에너지 소비 측면에서의 비용 효율성을 규명하기 위한 것이다.

제안 방법

• CUDA를 사용하여 GPU 오프로딩을 구현한 CPU-GPU 이종 시스템에서 기하학적 다중격자(GMG) 솔버를 구현하고, 전체 다중격자(FMG) 순환을 수행하였다.
• 중첩된 격자 계층을 활용하여 고주파수 및 저주파수 오차를 동시에 감소시키며, 다중격자의 다수준 스무딩 전략을 활용하였다.
• 스레드의 연속성과 CPU 및 GPU 간 데이터 전송 최소화를 통해 GPU 메모리 접근 및 커널 실행을 최적화하였다.
• 모든 격자 수준에서 대칭 가우스-세이델 이완을 스무딩 방법으로 사용하였으며, 사전 및 사후 이완 스윕 수를 다양하게 설정하였다.
• GPU 가속 FMG를 고도로 최적화된 CPU 전용 OpenMP 구현 및 빠른 포isson 해법을 위한 cuFFT 라이브러리와 비교하였다.
• 해법 정확도를 확보하기 위해 커널 실행 시간과 L² 노름 기반 근사 오차를 측정하여 성능을 평가하였다.

실험 결과

연구 질문

• RQ1 GPU 가속 기하학적 다중격자 방법의 성능는 이종 시스템에서 고도로 최적화된 CPU 전용 구현과 비교해 어떻게 되는가?
• RQ2 粗격자 계산이 GPU 활용도에 미치는 영향은 무엇이며, 다중격자 알고리즘에서 이를 어떻게 완화할 수 있는가?
• RQ3 대규모 포isson 문제를 2D 및 3D에서 해결할 때 GPU 가속 FMG 솔버가 cuFFT 라이브러리보다 뛰어난 성능을 보일 수 있는가?
• RQ4 다중격자 해법에서 GPU 가속이 CPU 전용 계산보다 더 효율적인 문제 크기는 어느 정도인가?
• RQ5 PDE 해법에 있어 GPU 기반 GMG의 에너지 효율성과 비용 효율성은 현대의 다핵 CPU와 비교해 어떻게 되는가?

주요 결과

• 대규모 문제에서 GPU 가속 FMG 솔버는 2D에서 CPU 전용 OpenMP 구현 대비 최대 11배, 3D에서는 10배 빠른 성능을 기록하였다.
• 1600만 개의 미지수를 가진 문제에서 2D의 FMG(1,2) 및 3D의 FMG(3,3) 스킴이 최적 수렴 속도를 확보하며 최소 오차를 기록하였다.
• 동일한 문제 크기와 정확도에서 GPU 기반 FMG 방법은 2D에서 cuFFT 대비 33% 더 빠르고, 3D에서는 23% 더 빠르게 동작하였다.
• 작은 문제에서는 CPU 및 GPU 작업량이 균형을 이루는 하이브리드 계산(0 < Lθ < L)이 가장 큰 이점을 보였다.
• 병렬성 부족과 자주 발생하는 굵은 격자 방문으로 인해 GPU 활용도가 저하되어 최고의 정밀도 성능이 떨어졌다.
• 대규모 PDE 해법에 있어 GPU 기반 GMG는 현대의 다핵 CPU에 비해 뛰어난 에너지 효율성과 비용 효율성을 보였다.