[논문 리뷰] QCDGPU: open-source package for Monte Carlo lattice simulations on OpenCL-compatible multi-GPU systems

Vadim Demchik, Natalia Kolomoyets|arXiv (Cornell University)|2013. 10. 26.

Quantum Chromodynamics and Particle Interactions참고 문헌 22인용 수 9

한 줄 요약

QCDGPU는 OpenCL 호환 다중 GPU 시스템에서 SU(N) 강력 상호작용 이론과 O(N) 모델을 위한 오픈소스로, 크로스플랫폼인 몬테카를로 격자 시뮬레이션 패키지입니다. 단일/이중 정밀도 지원, 이질적 장치 간 동적 로드 밸런싱, 클라이언트-서버 아키텍처를 통한 분산 계산을 통해 고성능 및 장애 내성 시뮬레이션을 가능하게 하며, AMD 및 NVIDIA GPU에서 CUDA 기반 구현과 비교해 유사한 성능을 달성합니다.

ABSTRACT

The multi-GPU open-source package QCDGPU for lattice Monte Carlo simulations of pure SU(N) gluodynamics in external magnetic field at finite temperature and O(N) model is developed. The code is implemented in OpenCL, tested on AMD and NVIDIA GPUs, AMD and Intel CPUs and may run on other OpenCL-compatible devices. The package contains minimal external library dependencies and is OS platform-independent. It is optimized for heterogeneous computing due to the possibility of dividing the lattice into non-equivalent parts to hide the difference in performances of the devices used. QCDGPU has client-server part for distributed simulations. The package is designed to produce lattice gauge configurations as well as to analyze previously generated ones. QCDGPU may be executed in fault-tolerant mode. Monte Carlo procedure core is based on PRNGCL library for pseudo-random numbers generation on OpenCL-compatible devices, which contains several most popular pseudo-random number generators.

연구 동기 및 목표

• 다양한 GPU 및 CPU 플랫폼에서 효율적으로 실행 가능한 이식성 있고 고성능의 격자 몬테카를로 시뮬레이션 패키지를 개발하는 것.
• OpenCL를 사용해 크로스플랫폼 호환성을 확보하고, 이질적 다중 GPU 시스템에서 SU(N) 강력 상호작용 이론과 O(N) 모델의 대규모 시뮬레이션을 수행하는 것.
• 경량 클라이언트-서버 아키텍처를 통해 여러 호스트 간 분산 시뮬레이션과 장애 내성 실행을 지원하는 것.
• 호스트 CPU 부하와 외부 종속성을 최소화하여 다른 HPC 워크플로우와의 통합을 가능하게 하는 것.
• 모듈식 코드 설계를 통해 새로운 게이지 군과 관측량을 쉽게 추가할 수 있도록 확장성을 제공하는 것.

제안 방법

• AMD, NVIDIA, Intel GPU 및 CPU 간 이식성을 확보하기 위해 OpenCL 기반으로 구현한 것.
• 이질적 장치 간 성능 격차를 감추기 위해 격자를 비균일한 부분으로 나누는 동적 로드 밸런싱 전략을 사용한 것.
• 분산 시뮬레이션을 위해 클라이언트-서버 모델을 채택하여 공유 네트워크 폴더를 통해 여러 호스트에서 실행할 수 있도록 한 것.
• GPU 장치에서 고품질의 의사난수 생성을 위해 PRNGCL과 통합하여 다양한 표준 생성기들을 지원한 것.
• 성능와 정확도의 균형을 맞추기 위해 단일 및 이중 정밀도 부동소수점 산술을 모두 지원한 것.
• 정기적으로 N번의 스위프트 또는 M초 간격으로 시뮬레이션 상태를 체크포인트로 저장하는 메커니즘을 통합해 장애 내성과 다른 하드웨어에서의 재시작을 가능하게 한 것.

실험 결과

연구 질문

• RQ1 이식성 있고 OpenCL 기반의 시뮬레이션 패키지가 다중 GPU 시스템에서 CUDA 기반 구현과 유사한 성능을 달성할 수 있는가?
• RQ2 격자 몬테카를로 시뮬레이션에서 이질적 GPU 및 CPU 장치 간 로드 밸런싱이 얼마나 효과적으로 이루어지는가?
• RQ3 장기간 실행되는 격자 시뮬레이션에서 데이터 손실 없이 얼마나 높은 수준의 장애 내성 실행을 달성할 수 있는가?
• RQ4 경량 클라이언트-서버 아키텍처를 통해 여러 호스트 간 분산 시뮬레이션을 효율적으로 조율할 수 있는가?
• RQ5 AMD 및 NVIDIA GPU를 포함한 다양한 하드웨어 플랫폼에서 패키지의 확장성은 얼마나 잘 유지되는가?

주요 결과

• NVIDIA GeForce GTX 560 Ti에서 SU(2)의 경우 단일 스위프트 성능이 6×10⁻⁴초, SU(3)의 경우 1.3×10⁻³초로, 이는 이전에 발표된 CUDA 기반 결과와 일치합니다.
• AMD Radeon HD 7970에서의 단일 스위프트 시간은 SU(2)가 2.0×10⁻³초, SU(3)가 3.4×10⁻³초로, AMD 하드웨어에서 뛰어난 성능을 보였습니다.
• 이중 정밀도 성능은 수용 가능한 범위 내에 있었으며, AMD GPU에서 SU(3)는 5.1×10⁻³초, NVIDIA GPU에서는 4.9×10⁻³초가 소요되었습니다.
• 이질적 플랫폼(AMD 및 NVIDIA)에서의 다중 GPU 시뮬레이션은 단일 장치 최고 성능 대비 10–25% 향상을 보여, 효과적인 로드 밸런싱이 이루어졌음을 시사합니다.
• 패키지는 성공적으로 장애 내성 실행을 지원하여 장기간 시뮬레이션을 중단하고 재개해도 데이터 손실 없이 수행할 수 있음을 입증했습니다.
• 클라이언트-서버 아키텍처는 공유 네트워크 폴더를 통해 여러 호스트에서의 분산 시뮬레이션을 가능하게 하였으며, 경량 제어 메시지 덕분에 네트워크 오버헤드가 최소화되었습니다.