[논문 리뷰] Hybrid Monte Carlo with Wilson Dirac operator on the Fermi GPU

Abhijit Chakrabarty, Pushan Majumdar|arXiv (Cornell University)|2012. 07. 10.

Theoretical and Computational Physics인용 수 3

한 줄 요약

이 논문은 NVIDIA Fermi GPU에서 두 개의 디제너레이트 Wilson-Dirac 페르미온을 가진 격자 QCD를 위한 고도로 최적화된 하이브리드 몬테카를로 시뮬레이션을 제시하며, 코드 생성을 통해 배열 변수를 레지스터에 매핑함으로써 글로벌 메모리 액세스를 최소화하고, 단일 CPU 스레드 대비 10배 이상의 성능 향상을 달성한다. 이는 근접한 즉각적인 데이터 액세스를 가능하게 하는 GPU 레지스터 파일을 활용하여, 고성능 클러스터에서 19–26개의 CPU 스레드 수준의 성능을 달성한다.

ABSTRACT

In this article we present our implementation of a Hybrid Monte Carlo algorithm for Lattice Gauge Theory using two degenerate flavours of Wilson-Dirac fermions on a Fermi GPU. We find that using registers instead of global memory speeds up the code by almost an order of magnitude. To map the array variables to scalars, so that the compiler puts them in the registers, we use code generators. Our final program is more than 10 times faster than a generic single CPU.

연구 동기 및 목표

• GPU 아키텍처에서 동적 페르미온을 포함한 하이브리드 몬테카를로 시뮬레이션의 가속화를 위해.
• GPU 기반 격자 양성장 이론 시뮬레이션에서 느린 글로벌 메모리 액세스로 인한 성능 저하 문제를 해결하기 위해.
• GPU 커널에서 런타임 데이터에 대해 레지스터 변수를 사용하는 것과 글로벌 메모리 사용을 비교하기 위해.
• 최적의 성능을 위해 배열 변수를 스칼라 레지스터에 매핑하기 위한 코드 생성 기법을 개발하고 적용하기 위해.
• 레지스터 최적화가 실제 격자 크기에서 단일 스레드 CPU 성능 대비 10배 이상의 성능 향상을 이끌 수 있음을 입증하기 위해.

제안 방법

• CUDA를 사용하여 Fermi GPU에서 두 개의 디제너레이트 Wilson-Dirac 페르미온을 위한 하이브리드 몬테카를로 알고리즘을 구현한다.
• 런타임 변수의 글로벌 메모리 사용을 레지스터 저장소로 대체하여 액세스 지연을 약 100–150 사이클에서 1 사이클로 감소시킨다.
• 배열 요소를 스칼라 변수로 매핑하기 위해 코드 생성기를 사용하여 컴파일러가 이를 레지스터에 할당할 수 있도록 한다.
• 글로벌 메모리 트랜잭션을 최소화하고 레지스터 활용도를 극대화함으로써 공액 그래디언트 역행렬 계산 커널을 최적화한다.
• C2050 및 X2090 Fermi GPU에서 성능을 테스트하고, Intel 및 Cray Fortran 컴파일러를 사용한 CPU 클러스터(Opteron, Cray XE6)와 비교한다.
• CG 반복 동안의 타이밍 측정을 통해 커널 실행 오버헤드와 스케일링 동작을 추정한다.

실험 결과

연구 질문

• RQ1 GPU 기반 HMC 시뮬레이션에서 레지스터 기반 저장소가 글로벌 메모리 액세스보다 현저히 뛰어난 성능을 보일 수 있는가?
• RQ2 코드 생성 기법을 통해 배열 변수를 레지스터에 얼마나 효과적으로 매핑할 수 있으며, 이로 인해 커널 성능 향상이 얼마나 이루어지는가?
• RQ3 최신 클러스터에서 레지스터 최적화된 GPU 커널의 성능은 다중 스레드 CPU 구현과 비교해 어떻게 되는가?
• RQ4 실제 격자 크기에서 GPU 최적화된 HMC 구현이 단일 CPU 스레드 대비 얼마나 빠른가?
• RQ5 레지스터 최적화로 얻는 성능 향상은 격자 부피와 반복 횟수가 증가함에 따라 비례적으로 증가하는가?

주요 결과

• 글로벌 메모리 대신 레지스터를 사용하면 코드 실행 속도가 거의 한 계단 높아져, 단일 CPU 스레드 대비 10배 이상의 성능 향상을 달성한다.
• C2050 GPU의 성능은 약 19개의 Cray XE6 노드 스레드 수준이며, X2090는 약 26개의 해당 스레드 수준에 해당한다.
• 공액 그래디언트 루틴의 커널 실행 오버헤드는 C2050 및 X2090 GPU 모두에서 약 0.5초이다.
• 인버터의 타이밍은 CG 반복 횟수에 따라 선형적으로 증가하여 반복 간 일관된 성능을 보임을 확인하였다.
• 레지스터 매핑 없이 실험한 경우 성능 향상은 약 2배에 그쳤지만, 완전한 레지스터 최적화를 통해 이는 10배 이상으로 증가하였다.
• 배열을 레지스터에 효과적으로 매핑하기 위해 코드 생성 기법이 필수적이었으며, 이로 인해 컴파일러가 변수를 고속 레지스터 파일에 할당할 수 있었다.