[논문 리뷰] Mixed-mode implementation of PETSc for scalable linear algebra on multi-core processors

Michèle Weiland, Lawrence Mitchell외 4명|arXiv (Cornell University)|2012. 05. 09.

Parallel Computing and Optimization Techniques참고 문헌 13인용 수 5

한 줄 요약

이 논문은 다중 코어 프로세서에서의 확장성 향상을 위해 공유 메모리 스레딩과 분산 메모리 메시지 전달을 조합한 혼합 모드 OpenMP/MPI 구현을 통해 PETSc를 개선한다. 순수-MPI 대비 다중 코어 병렬 처리를 더 잘 활용함으로써 성능을 향상시키며, CFD 행렬에 대한 벤치마크 결과 혼합 모드 버전에서 더 높은 효율성과 단축된 해법 시간을 보였다.

ABSTRACT

With multi-core processors a ubiquitous building block of modern supercomputers, it is now past time to enable applications to embrace these developments in processor design. To achieve exascale performance, applications will need ways of exploiting the new levels of parallelism that are exposed in modern high-performance computers. A typical approach to this is to use shared-memory programming techniques to best exploit multi-core nodes along with inter-node message passing. In this paper, we describe the addition of OpenMP threaded functionality to the PETSc library. We highlight some issues that hinder good performance of threaded applications on modern processors and describe how to negate them. The OpenMP branch of PETSc was benchmarked using matrices extracted from Fluidity, a CFD application code, which uses the library as its linear solver engine. The overall performance of the mixed-mode implementation is shown to be superior to that of the pure-MPI version.

연구 동기 및 목표

• 현대의 다중 코어 슈퍼컴퓨터에서 확장 가능한 선형 대수의 증가하는 필요를 해결하기 위해.
• 광범위하게 사용되는 HPC 라이브러리인 PETSc 내에서 공유 메모리 병렬 처리를 효율적으로 활용할 수 있도록 하기 위해.
• 현대 프로세서에서 스레드 기반 응용 프로그램의 성능 저하 요인을 극복하기 위해.
• 실제 CFD 워크로드에서 순수-MPI 대비 하이브리드 OpenMP/MPI 구현된 PETSc의 성능을 평가하기 위해.

제안 방법

• 다중 코어 노드 내에서 공유 메모리 병렬 처리를 지원하기 위해 PETSc에 OpenMP 스레딩을 확장하였다.
• 기존의 MPI 기반 노드 간 통신과 OpenMP를 통합하여 하이브리드 프로그래밍 모델을 구현하였다.
• 거짓 공유를 줄이고 캐시 국소성을 향상시키기 위해 메모리 액세스와 스레드 스케줄링을 최적화하였다.
• 평가를 위한 현실적인 벤치마크로 Fluidity CFD 코드에서 추출한 행렬을 사용하였다.
• 스레드 기반 HPC 코드에서 흔히 발생하는 성능 문제를 완화하기 위해 혼합 모드 구현을 프로파일링하고 튜닝하였다.
• OpenMP가 강화된 PETSc 버전의 성능을 원래의 순수-MPI 버전과 비교하였다.

실험 결과

연구 질문

• RQ1 혼합 모드 OpenMP/MPI 구현된 PETSc는 순수-MPI 대비 다중 코어 아키텍처에서 어떻게 성능을 향상시키는가?
• RQ2 현대 프로세서에서 스레드 기반 선형 대수 응용 프로그램에서 발생하는 성능 저하 요인은 무엇이며, 이를 어떻게 완화할 수 있는가?
• RQ3 실제 CFD 워크로드에서 혼합 모델은 다중 코어 노드 간에 얼마나 잘 스케일링되는가?
• RQ4 OpenMP 확장된 PETSc는 공유 메모리 시스템에서 자원 활용도를 향상시키면서도 높은 성능을 유지할 수 있는가?

주요 결과

• 혼합 모드 PETSc 구현은 다중 코어 시스템에서 순수-MPI 버전보다 뛰어난 성능을 달성하였다.
• Fluidity CFD 응용 프로그램의 행렬에 대해 OpenMP가 강화된 버전이 해법 시간을 크게 단축시켰다.
• 성능 향상은 공유 메모리 병렬 처리의 더 나은 활용도와 통신 오버헤드 감소 덕분으로 기인되었다.
• 이 구현은 거짓 공유 및 로드 불균형과 같은 일반적인 스레딩 문제를 성공적으로 완화하였다.
• 하이브리드 접근 방식은 다중 코어 노드 간에 강력한 스케일링을 보였으며, 높은 효율성을 유지하였다.