[논문 리뷰] ArborX: A Performance Portable Geometric Search Library

Damien Lebrun-Grandié, Andrey Prokopenko외 2명|arXiv (Cornell University)|2019. 08. 16.

Advanced Image and Video Retrieval Techniques참고 문헌 24인용 수 6

한 줄 요약

ArborX는 고성능 계산(HPC) 워크로드를 위한 성능 포터블 C++ 기하 검색 라이브러리로, CPU와 GPU 간의 포터빌리티를 위해 Kokkos를 활용한다. 메모리 접근 최적화 및 스레드 분산 최소화에 최적화된 고도로 병렬화된 경계 볼륨 계층(BVH) 알고리즘을 사용함으로써, 멀티코어 CPU와 GPU에서 경쟁 가능한 성능을 달성하며, nanoflann 및 Boost.Geometry.Index와 같은 최신 기술 라이브러리들을 능가한다.

ABSTRACT

Searching for geometric objects that are close in space is a fundamental component of many applications. The performance of search algorithms comes to the forefront as the size of a problem increases both in terms of total object count as well as in the total number of search queries performed. Scientific applications requiring modern leadership-class supercomputers also pose an additional requirement of performance portability, i.e. being able to efficiently utilize a variety of hardware architectures. In this paper, we introduce a new open-source C++ search library, ArborX, which we have designed for modern supercomputing architectures. We examine scalable search algorithms with a focus on performance, including a highly efficient parallel bounding volume hierarchy implementation, and propose a flexible interface making it easy to integrate with existing applications. We demonstrate the performance portability of ArborX on multi-core CPUs and GPUs, and compare it to the state-of-the-art libraries such as Boost.Geometry.Index and nanoflann.

연구 동기 및 목표

• 최신 HPC 아키텍처인 CPU와 GPU를 포함한 성능 포터블 기하 검색 라이브러리의 부족을 해결한다.
• 엑사스케일 성능과 포터빌리티가 필요한 과학적 응용 분야에서 효율적이고 확장 가능한 근접 검색을 가능하게 한다.
• 기존 HPC 응용 프로그램에 쉽게 통합할 수 있도록 유연한 인터페이스를 갖춘 헤더 온리 C++ 라이브러리 설계를 목표로 한다.
• 병렬 구현에서 메모리 접근과 스레드 분산을 최소화하여 다양한 하드웨어에서 고성능을 달성한다.
• 미래의 엑사스케일 시스템을 고려해, APU 및 FPGA와 같은 변화하는 아키텍처 간의 포터빌리티를 제공한다.

제안 방법

• Kokkos 성능 포터빌리티 레이어를 사용해 CPU와 GPU를 대상으로 병렬 경계 볼륨 계층(BVH) 데이터 구조를 구현한다.
• 메모리 효율적인 노드 레이아웃을 사용해 병렬 트리 탐색 및 구축 과정에서 메모리 접근 패턴을 최적화하고 스레드 분산을 줄인다.
• 최소한의 코드 중복으로 CPU 및 GPU 실행을 모두 지원하는 단일 인터페이스 추상화를 사용한다.
• Kokkos의 실행 정책과 메모리 공간을 활용해 이질적 아키텍처 간의 포터블 커널을 표현한다.
• 통합을 단순화하고 컴파일러 최적화를 가능하게 하기 위해 라이브러리를 헤더 온리로 설계한다.
• 성능을 위해 증분 업데이트를 방지하고, 정적 데이터 구조를 사용해 저차원 공간 검색에 집중한다.

실험 결과

연구 질문

• RQ1 어떻게 기하 검색 라이브러리가 멀티코어 CPU와 GPU를 포함한 다양한 HPC 아키텍처에서 고성능과 포터빌리티를 동시에 달성할 수 있는가?
• RQ2 데이터 구조 및 알고리즘 구현에서 어떤 설계 선택이 기하 검색의 효율적 병렬 처리와 메모리 접근 패턴을 가능하게 하는가?
• RQ3 현대 슈퍼컴퓨터에서 ArborX는 nanoflann 및 Boost.Geometry.Index와 같은 기존 라이브러리와 비교해 어떤 성능을 보이는가?
• RQ4 단일 인터페이스와 구현이 CPU와 GPU 양쪽에서 경쟁 가능한 성능을 달성할 수 있는 정도는 어느 정도인가?
• RQ5 현재 구현의 확장성 한계는 무엇이며, 이를 엑사스케일 규모의 분산 워크로드에 대응하기 위해 어떻게 해결할 수 있는가?

주요 결과

• ArborX는 단일 스레드 CPU 워크로드에서 nanoflann 및 Boost.Geometry.Index와 경쟁 가능한 성능을 보이며, 특히 최근접 이웃 검색 및 공간 검색 작업에서 뛰어난 성능을 나타낸다.
• OLCF Summit 시스템에서, 단일 V100 GPU는 42개의 POWER9 CPU 코어로 구성된 전체 노드보다 더 큰 문제 크기에서 성능이 뛰어나 강력한 가속기 확장성을 입증한다.
• 대부분의 문제 크기에서 SMT4 모드가 SMT1 또는 SMT2보다 우수한 성능을 보이며, 특히 큰 워크로드에서 두드러진다.
• CUDA를 사용한 GPU에서 높은 성능 향상을 보이며, 대규모 데이터셋에서 공간 검색의 경우 최대 5.5배, 최근접 이웃 쿼리의 경우 최대 6.44배 빠른 성능을 기록한다.
• ArborX의 BVH 기반 구현은 메모리 접근과 스레드 분산을 줄여 CPU 및 GPU 양쪽에서 높은 효율성을 확보한다.
• 라이브러리는 확장성이 있으며, MPI 기반 분산 검색을 통해 향후 확장에 적합하지만, 현재는 노드 간 로드 밸런싱 및 데이터 분포의 한계로 인해 도전 과제가 남아 있다.