[논문 리뷰] Accelerating the solution of families of shifted linear systems with CUDA

Richard Galvez, Greg van Anders|arXiv (Cornell University)|2011. 02. 10.

Particle physics theoretical and experimental studies참고 문헌 15인용 수 11

한 줄 요약

이 논문은 다중 이동이 있는 희소 선형 시스템의 가족을 효율적으로 해결하기 위해 GPU 가속화된 오픈소스 CUDA 구현을 제시한다. 특히, CG-M 및 BiCGStab-M을 포함한 이동 Krylov 부분공간 해법기를 사용한다. 이 방법은 단일 CPU 코어 대비 12배 이상의 안정적인 성능 향상을 달성하여, LHC 물리학과 초대칭 모델에 관련된 복잡한 양자장 이론의 실용적 시뮬레이션을 가능하게 한다.

ABSTRACT

We describe the GPU implementation of shifted or multimass iterative solvers for sparse linear systems of the sort encountered in lattice gauge theory. We provide a generic tool that can be used by those without GPU programming experience to accelerate the simulation of a wide array of theories. We stress genericity, which is important to allow the simulation of candidate theories for new physics at LHC, and for the study of various supersymmetric theories. We find significant speed ups, which we conservatively bound below at at least twelve times, that promise to put a variety of research questions within practical reach.

연구 동기 및 목표

• 격자 gauge 이론 및 양자장 이론 시뮬레이션에서 발생하는 다중 이동 선형 시스템의 가족을 위한 일반적이고 GPU 가속 해법기를 개발하는 것.
• 기본 해법기를 다시 작성하지 않고도 비-QCD 이론—예를 들어 LHC에서의 새로운 물리 이론 후보 및 초대칭 모델—의 효율적 시뮬레이션을 가능하게 하는 것.
• CUDA 프로그래밍 전문 지식이 없어도 사용할 수 있는 사용자 友好的이고 오픈소스인 도구를 제공하여 고에너지 및 계산 물리학 분야 전반에서 널리 보급되도록 하는 것.
• 다양한 이동이 있는 시스템을 동시에 해결할 때 발생하는 계산 비용을 크게 감소시켜, 동적 페르미온 시뮬레이션에서 주요 병목 현상을 해결하는 것.

제안 방법

• 해법기는 다중질량 공액 기울기(CG-M) 및 다중질량 이중공액 기울기 안정화(BiCGStab-M) 방법의 GPU 가속 구현을 사용하여 이동 선형 시스템을 해결한다.
• 행렬 이동에 대해 Krylov 부분공간이 유지되는 수학적 성질을 활용하여, 여러 이동된 시스템 간에 계산을 공유한다.
• 반복 상수를 여러 이동에 걸쳐 재사용하여 중복된 행렬-벡터 곱셈을 방지하고, 계산 오버헤드를 최소화한다.
• 구현은 CUSP 라이브러리 기반으로 이루어지며, 저수준 GPU 프로그래밍을 추상화한 고수준 C++ 루틴을 제공한다.
• 단일 정밀도와 이중 정밀도 산술을 모두 지원하며, 다양한 수의 이동에 따른 성능을 측정한다.
• 이 방법은 일반적이며, (A + σiI)xi = bi 형태의 모든 문제에 적용 가능하며, 2D 포isson 방정식 해결과 같은 비이론적 응용에도 적용 가능하다.

실험 결과

연구 질문

• RQ1 GPU 가속 Krylov 부분공간 방법이 격자 gauge 이론 시뮬레이션에서 다중 이동 선형 시스템을 해결하는 데 있어 상당한 성능 향상을 달성할 수 있는가?
• RQ2 일반적이고 오픈소스인 GPU 해법기가 동적 페르미온을 포함한 비아벨 게이지 이론의 시뮬레이션에 있어 계산 비용을 얼마나 줄일 수 있는가?
• RQ3 동일한 문제 크기와 정밀도에서 GPU 기반 이동 해법기의 성능이 단일 코어 CPU 구현과 비교해 어떻게 되는가?
• RQ4 이 해법기가 양자 색역학 이론을 초월하여, 예를 들어 다수의 우변을 가진 2D 포isson 방정식 해결에도 효과적으로 적용될 수 있는가?
• RQ5 공유되는 Krylov 부분공간을 유지하는 지능적인 초기 추측을 사용하여, 서로 다른 우변을 가진 시스템을 처리하는 데에 이 해법기를 확장하는 것은 가능한가?

주요 결과

• GPU 가속 CG-M 해법기는 이중 정밀도로 15개의 이동된 시스템을 해결할 때 단일 CPU 코어 대비 12배 이상의 안정적인 성능 향상을 달성한다.
• 1000×1000 크기의 2D 포isson 문제에 대해 15개의 이동이 있는 경우, GPU 기반 이동 해법기는 단일 CPU 코어에서 실행되는 비이동 CG 해법기의 1/12 미만의 시간에 완료된다.
• 비이동 CG 해법기의 GPU 구현은 예상대로 약 몇 배 빠른 성능을 보이며, 알고리즘 오버헤드가 적기 때문이다.
• 이 해법기는 일반적이고 재사용 가능하도록 설계되어 있어, 저수준 GPU 프로그래밍 없이도 다양한 양자장 이론의 빠른 시뮬레이션을 가능하게 한다.
• 이 방법은 고에너지 물리학을 초월한 응용에도 적용 가능하며, 다수의 이동이 있는 2D 포isson 방정식 해결에 성공적으로 적용된 바 있다.
• 코드의 오픈소스 성격과 CUSP 프로젝트에 통합된 점을 통해 향후 연구를 위한 광범위한 접근성과 확장성 보장.