[논문 리뷰] Ginkgo: A Modern Linear Operator Algebra Framework for High Performance Computing

Hartwig Anzt, Terry Cojean외 7명|arXiv (Cornell University)|2020. 06. 30.

Distributed and Parallel Computing Systems인용 수 11

한 줄 요약

Ginkgo는 최신 GPU와 멀티코어 아키텍처 간 성능 이식성을 보장하는 고성능 계산을 위한 현대적인 C++ 선형 연산자 대수 프레임워크이다. 모든 선형 대수 연산을 조합 가능한 선형 연산자로 추상화하여, 성능 이식성과 확장성을 확보한다. 하드웨어에 특화된 커널 최적화와 모듈식, 확장 가능한 설계를 통해 NVIDIA V100과 AMD Radeon VII 시스템에서 경쟁적인 SpMV 및 크릴로프 해법기 성능을 입증한다.

ABSTRACT

In this paper, we present Ginkgo, a modern C++ math library for scientific high performance computing. While classical linear algebra libraries act on matrix and vector objects, Ginkgo's design principle abstracts all functionality as "linear operators", motivating the notation of a "linear operator algebra library". Ginkgo's current focus is oriented towards providing sparse linear algebra functionality for high performance GPU architectures, but given the library design, this focus can be easily extended to accommodate other algorithms and hardware architectures. We introduce this sophisticated software architecture that separates core algorithms from architecture-specific back ends and provide details on extensibility and sustainability measures. We also demonstrate Ginkgo's usability by providing examples on how to use its functionality inside the MFEM and deal.ii finite element ecosystems. Finally, we offer a practical demonstration of Ginkgo's high performance on state-of-the-art GPU architectures.

연구 동기 및 목표

• 최신 멀티코어 가속기인 GPU와 같은 하드웨어에 맞춘 고성능 희소 선형 대수 라이브러리의 증가하는 수요를 해결하기 위해.
• 정확성, 성능 이식성, 확장성을 확보하기 위해 수치 알고리즘과 하드웨어에 특화된 커널을 분리한 소프트웨어 프레임워크를 설계하기 위해.
• 해결사, 조절자, 행렬 연산을 위한 사용자 우아하고 조합 가능한 인터페이스를 선형 연산자 추상화를 통해 제공하기 위해.
• 엄격한 테스트, 지속적 통합 및 벤치마킹을 통해 소프트웨어 개발의 지속 가능성을 확보하기 위해.
• MFEM 및 deal.ii와 같은 주요 과학 계산 생태계에 원활하게 통합될 수 있도록 하기 위해.

제안 방법

• 모든 선형 대수 기능을 '선형 연산자'로 추상화하여, 해법기, 조절자, 행렬-벡터 곱, 재정렬을 하나의 인터페이스로 통합한다.
• 플러그인 스타일 설계를 통해 핵심 알고리즘과 아키텍처에 특화된 백엔드를 분리하여 CUDA, HIP, OpenMP에서 최적화된 커널을 구현할 수 있도록 한다.
• 안전한 세밀한 메모리 관리를 위해 스마트 포인터와 메모리 전달 장식자(decorator)를 사용한다.
• 실행자 추상화를 통해 CPU와 GPU를 포함한 다양한 하드웨어에서 실행을 투명하게 지원한다.
• 코드 품질과 장기적 지속 가능성을 보장하기 위해 지속적 벤치마킹과 자동화된 테스트를 통합한다.
• ParILUT(임계값 기반 ILU) 및 조건 수와 지수 범위에 따라 정밀도를 자동으로 적응시키는 블록-자코비 조절자와 같은 고급 조절 방법을 지원한다.

실험 결과

연구 질문

• RQ1 어떻게 선형 대수 라이브러리가 다양한 GPU와 멀티코어 아키텍처 간에 고성능과 이식성을 달성할 수 있는가?
• RQ2 통합된 선형 연산자 추상화가 성능을 유지하면서도 해법기와 조절자의 구현 및 조합을 단순화할 수 있는가?
• RQ3 Ginkgo의 알고리즘과 하드웨어 백엔드 분리 전략이 정확성, 유지보수성, 확장성에 어떤 영향을 미치는가?
• RQ4 현대 GPU 아키텍처에서 기존 라이브러리인 cuSPARSE에 비해 Ginkgo가 얼마나 높은 성능 향상을 달성하는가?
• RQ5 Ginkgo는 MFEM 및 deal.ii와 같은 기존 유한요소 소프트웨어 스택에 얼마나 깊이 통합될 수 있는가?

주요 결과

• Ginkgo는 NVIDIA V100과 AMD Radeon VII GPU에서 고성능을 달성했으며, 복사 연산에서 V100에서 최대 790.475 GB/s, Radeon VII에서 최대 841.669 GB/s의 성능을 기록했다.
• Radeon VII는 복사 연산에서 V100보다 6% 뛰어나지만, 독립된 스레드 스케줄링가 제한되어 있어 내적 연산에서 25% 뒤처져 크릴로프 해법기 성능에 영향을 미칠 것으로 보인다.
• Ginkgo의 ParILUT 조절자는 이방향 흐름 문제에서 GMRES 수렴 속도를 크게 향상시키며, 두 세대의 NVIDIA GPU에서 표준 cuSPARSE ILU보다 뛰어난 성능을 보였다.
• Ginkgo의 블록-자코비 조절자는 조건 수와 지수 범위에 따라 정밀도를 자동으로 적응시키므로, 고정 정밀도 대비 메모리 액세스 시간을 줄여 성능을 향상시켰다.
• Ginkgo의 대각 블록 역행렬 계산을 위한 가우스-조르당 소거법은 배치 처리된 가변 크기 커널을 통해 매우 최적화되어 있으며, GPU에서 효율적인 조절자 생성을 가능하게 했다.
• 이 라이브러리의 설계 덕분에 MFEM 및 deal.ii에 원활하게 통합되었으며, 실제 유한요소 응용 프로그램에서의 사용성과 실용성을 입증했다.