[논문 리뷰] Blasting through lattice calculations using CUDA

Kipton Barros, Ronald Babich외 3명|ArXiv.org|2008. 10. 29.

Parallel Computing and Optimization Techniques참고 문헌 7인용 수 7

한 줄 요약

이 논문은 격자 양성장 이론을 위한 윌슨-디랙 연산자에 대한 고도로 최적화된 CUDA 구현을 제시하며, 공유 메모리와 레지스터를 효율적으로 활용하여 지포스 GTX 280 GPU에서 92 Gflops를 달성한다. 이 접근법은 GPU의 병렬 처리 능력과 메모리 접근의 연속성(코alescing)을 활용하여 기존 CPU 구현보다 10배 이상 빠른 성능을 보이며, Gflop당 $5.60의 가격-성능 비율을 확보한다.

ABSTRACT

Modern graphics hardware is designed for highly parallel numerical tasks and provides significant cost and performance benefits. Graphics hardware vendors are now making available development tools to support general purpose high performance computing. Nvidia's CUDA platform, in particular, offers direct access to graphics hardware through a programming language similar to C. Using the CUDA platform we have implemented a Wilson-Dirac operator which runs at an effective 68 Gflops on the Tesla C870. The recently released GeForce GTX 280 runs this same code at 92 Gflops, and we expect further improvement pending code optimization.

연구 동기 및 목표

• GPU 하드웨어와 CUDA 프로그래밍을 활용해 격자 양성장 이론 계산을 가속화하기 위해.
• 기존 CPU에서 윌슨-디랙 연산자 응용의 성능 저하 요인을 극복하기 위해.
• 대용량 격자 시뮬레이션을 위한 현대 GPU에서 고성능 및 강한 확장성 확보를 위해.
• 과학 계산 워크로드의 GPU 커널에서 메모리 접근 및 스레드 활용도를 최적화하기 위해.
• 격자 양성장 이론의 CPU 기반 HPC에 대한 비용 효율적이고 고처리량 대안을 제시하기 위해.

제안 방법

• CUDA를 사용해 윌슨-디랙 연산자를 구현하며, GPU에 직접 접근 가능한 C 유사 언어를 활용한다.
• 각 격자 점에 하나의 GPU 스레드를 맵핑하여 막대한 병렬성을 활용한다.
• 공유 메모리와 레지스터를 사용해 전역 메모리 접근을 최소화하고 데이터 재사용을 극대화한다.
• 연속된 메모리 영역에 스레드 접근를 정렬하고 그룹화하여 메모리 연속성(코alescing)을 최적화한다.
• 스칼라에서의 코드 생성을 활용해 SU(3) 행렬 연산을 위한 복잡한 저수준 CUDA 커널 코드를 자동화한다.
• 가시성 고정(시간적 링크를 항등행렬로 설정) 및 부분 행렬 재구성과 같은 최적화를 적용해 메모리 대역폭을 줄인다.

실험 결과

연구 질문

• RQ1 CUDA를 통한 GPU 가속화가 격자 양성장 이론 시뮬레이션의 성능을 크게 향상시킬 수 있는가?
• RQ2 CPU 기반 구현 대비 라티스 부피가 증가함에 따라 CUDA 최적화된 윌슨-디랙 연산자의 성능 스케일링은 어떻게 변화하는가?
• RQ3 격자 양성장 이론의 GPU 커널에서 스레드 점유율을 극대화하기 위해 공유 메모리와 레지스터 사이의 최적 균형은 무엇인가?
• RQ4 데이터 접근 패턴과 재구성 기법을 통해 메모리 대역폭 제약을 어느 정도 완화할 수 있는가?
• RQ5 전통적인 CPU 클러스터 대비 GPU 기반 격자 계산의 가격-성능 비율은 어떠한가?

주요 결과

• 윌슨-디랙 연산자는 테슬라 C870에서 68 Gflops, 지포스 GTX 280에서 92 Gflops를 기록하며 일반적인 SSE 최적화 CPU 구현 대비 약 10배의 성능 향상을 보였다.
• 짝수-홀 조건부 윌슨-디랙 연산자는 C870에서 60 Gflops 이상, GTX 280에서 90 Gflops 이상을 다양한 라티스 부피 범위에서 유지했다.
• 합리적인 라티스 크기에서 코그래디언트 인버터는 C870에서 50 Gflops 이상, GTX 280에서 80 Gflops 이상의 성능을 기록했다.
• 성능가 부피에 따른 의존성이 약하게 나타났으며, 이는 CPU 구현이 부피 감소 시 캐시 미스로 인한 성능 저하를 겪는 것과 대조되었다.
• GTX 280는 Gflop당 $5.60의 가격-성능 비율을 제공하여 격자 양성장 이론에 있어 GPU 컴퓨팅이 매우 비용 효율적임을 입증했다.
• 가시성 고정 및 부분 행렬 재구성 기법의 적용으로 메모리 대역폭 사용이 감소해 성능이 약 10% 향상되었다.