[논문 리뷰] Hierarchical QR factorization algorithms for multi-core cluster systems

Jack Dongarra, Mathieu Faverge외 3명|arXiv (Cornell University)|2011. 10. 07.

Parallel Computing and Optimization Techniques인용 수 4

한 줄 요약

이 논문은 다중 코어 클러스터 시스템을 대상으로 하며, 세 수준의 내클러스터 감소 트리(TS 수준, 저수준, 결합 수준)와 외클러스터 평탄한 트리(FlatTree) 감소를 결합하여 통신을 최소화하고 성능을 극대화하기 위해 설계된 계층적 QR 분해 알고리즘인 HQR을 제시한다. 이 알고리즘은 DAGuE 스케줄링 프레임워크를 통해 구현되었으며, 정사각형 행렬에서 이론적 최고 성능의 최대 68.7%를 달성하여, 모든 행렬 형태에서 ScaLAPACK, [BDD+10], 및 [SLHD10]을 크게 능가한다.

ABSTRACT

This paper describes a new QR factorization algorithm which is especially designed for massively parallel platforms combining parallel distributed multi-core nodes. These platforms make the present and the foreseeable future of high-performance computing. Our new QR factorization algorithm falls in the category of the tile algorithms which naturally enables good data locality for the sequential kernels executed by the cores (high sequential performance), low number of messages in a parallel distributed setting (small latency term), and fine granularity (high parallelism).

연구 동기 및 목표

• 현대의 계층적 다중 코어 클러스터 시스템(분산 메모리 환경)에서 QR 분해의 성능 저하 문제를 해결하기 위해.
• 대규모 병렬 QR 분해에서 프로세서 간 통신 비용을 줄이기 위해 통신 회피 알고리즘을 설계하기 위해.
• 계층적 감소 트리와 함께 영역 기반의 타일 기반 알고리즘을 통해 데이터 국소성과 병렬성을 향상시키기 위해.
• DAGuE 스케줄링 프레임워크를 사용하여 페타스케일 및 에크사스케일 플랫폼에서 효율적이고 이식 가능하며 자동화된 QR 분해 구현을 가능하게 하기 위해.

제안 방법

• 알고리즘은 세 수준의 내클러스터 감소 트리로 구성되며, 캐시 우수성을 확보하기 위한 TS 수준, 노드 간 감소를 분리하기 위한 저수준, 그리고 지역 감소와 전역 감소를 동기화하기 위한 결합 수준을 포함한다.
• 외클러스터 수준에서는 통신 볼륨을 최소화하기 위해 평탄한 트리(FlatTree)를 사용하여 분산 메모리 환경에서 지연 시간 항을 감소시킨다.
• 설계는 다양한 커널 유형, 분포 레이아웃, 모든 계층 수준에서의 사용자 정의 감소 트리를 지원하여 유연성과 모odu리티를 확보한다.
• 알고리즘은 태스크 스케줄링을 자동화하고 코어 및 노드 간 세밀한 병렬성을 활용하기 위해 DAGuE 스케줄링 도구를 사용하여 구현된다.
• 타일 기반 접근 방식은 행렬을 작은 계산 단위(타일)로 분할하여 코어에서의 고순차적 성능과 효율적인 로드 밸런싱을 가능하게 한다.
• 1D 및 2D 데이터 분포를 모두 지원하며, 로드 불균형과 스터브를 방지하기 위해 동적 최적화(예: 도미노 결합)를 제공한다.

실험 결과

연구 질문

• RQ1 공유 메모리 노드와 분산 메모리 인터커넥트를 모두 갖춘 계층적 다중 코어 클러스터 시스템에서 QR 분해를 어떻게 최적화할 수 있는가?
• RQ2 어떤 계층적 감소 트리 구조가 통신 볼륨을 최소화하면서도 병렬성과 데이터 국소성을 극대화하는가?
• RQ3 내클러스터 및 외클러스터 감소 트리의 다양한 조합이 다양한 행렬 형태(긴-스킨니형에서 정사각형형까지)에서 성능에 어떻게 영향을 미치는가?
• RQ4 다양한 페타스케일 및 에크사스케일 플랫폼에서 민첩하고 모듈화된 알고리즘 설계가 성능과 이식 가능성에 얼마나 기여하는가?
• RQ5 DAGuE 프레임워크는 복잡한 통신 회피 QR 분해 알고리즘의 구현을 효과적으로 자동화할 수 있는가?

주요 결과

• 긴-스킨니 행렬(240×4 타일)에서 HQR는 이론적 최고 성능의 57.5%를 달성하며, ScaLAPACK(6.4%), [BDD+10](18.3%), [SLHD10](43.5%)를 최대 9.0배 뛰어넘는다.
• 정사각형 행렬(240×240 타일)에서 HQR는 최고 성능의 68.7%에 도달하여, ScaLAPACK(44.2%), [BDD+10](62.2%), [SLHD10](46.7%)를 최대 1.5배 뛰어넘는다.
• 세 수준의 내클러스터 트리(TS, 저수준, 결합 수준) 각각이 성능 향상에 기여하며, 특히 지역 감소와 전역 감소 간 상호작용을 해결하는 데 핵심적인 역할을 한다.
• FlatTree 외클러스터 감소는 통신 볼륨을 감소시키고 확장성을 향상시키며, 특히 열 수가 많은 행렬에서 두드러진다.
• 알고리즘의 유연성 덕분에 충분한 병렬성이 확보된 경우 도미노 결합을 비활성화하는 등의 동적 최적화가 가능하여, 로드 밸런스를 유지하면서도 효율성을 향상시킬 수 있다.
• DAGuE 기반 구현은 다양한 하드웨어에서 자동화되고 이식 가능하며 고성능으로 배포 가능함을 보여주며, 에크사스케일 플랫폼에서 고성능이고 확장 가능한 QR 분해의 실현 가능성을 입증한다.