[논문 리뷰] Implementing Communication-Optimal Parallel and Sequential QR Factorizations

James Demmel, Laura Grigori외 2명|ArXiv.org|2008. 09. 14.

Caching and Content Delivery참고 문헌 26인용 수 12

한 줄 요약

이 논문은 통신을 최소화하는 QR 분해 알고리즘—특히 높고 가늘게 생긴 행렬에 적합한 TSQR과 일반적인 직사각형 행렬에 적합한 CAQR—을 제안한다. 이 알고리즘들은 순차적 및 병렬 환경에서 모두 데이터 이동을 최소화한다. 재귀적 QR과 최적화된 감소 트리를 사용함으로써, ScaLAPACK 대비 최대 6.7배, PDGEQRF 대비 최대 22.9배의 성능 향상을 이룬다. 또한 하우스홀더 QR과 마찬가지로 노름 기반 후행 안정성을 유지한다.

ABSTRACT

We present parallel and sequential dense QR factorization algorithms for tall and skinny matrices and general rectangular matrices that both minimize communication, and are as stable as Householder QR. The sequential and parallel algorithms for tall and skinny matrices lead to significant speedups in practice over some of the existing algorithms, including LAPACK and ScaLAPACK, for example up to 6.7x over ScaLAPACK. The parallel algorithm for general rectangular matrices is estimated to show significant speedups over ScaLAPACK, up to 22x over ScaLAPACK.

연구 동기 및 목표

• 순차적 및 병렬 HPC 환경에서 모두 통신을 최소화하는 통신 최적의 QR 분해 알고리즘을 설계하기 위해.
• ScaLAPACK 및 LAPACK과 같은 기존 QR 구현에서 발생하는 통신 오버헤드로 인한 성능 저하 문제를 해결하기 위해.
• 특히 다수의 우변 또는 고유값 문제를 포함하는 응용 분야에서 대규모 행렬에 대해 고성능이고 확장 가능한 QR 분해를 가능하게 하기 위해.
• TSQR을 CAQR의 구성 요소로 통합하여 병렬 2차원 레이아웃에서 지연과 대역폭 장애를 제거하기 위해.
• 다중 메모리 레벨과 병렬성 계층이 존재하는 현대의 이종 아키텍처를 고려한 최적화를 위해.

제안 방법

• TSQR에서 국소 커널로 재귀적 QR 분해(Elmroth와 Gustavson)를 사용하여 통신을 최소화하고 순차적 시스템에서의 성능을 향상시킨다.
• TSQR을 통신 회피 감소 트리 위에서 감소 연산으로 구현하여 통신과 계산을 겹치게 한다.
• TSQR을 패널 분해에 사용하는 2D 블록 순환 레이아웃을 위한 병렬 알고리즘으로 CAQR를 설계하여 ScaLAPACK의 PDGEQRF에서 발생하는 지연 장애를 제거한다.
• 임의의 토폴로지 지원을 위한 감소 트리를 구성하여 복잡한 다층 아키텍처에서 효율적인 통신 스케줄링을 가능하게 한다.
• TSQR이 노름 기반 후행 안정성을 유지한다는 사실을 활용하여 하우스홀더 QR과 수치적으로 안정성이 유사한 결과를 보장한다.
• 이론적 모델을 사용해 페타스케일 시스템에서의 성능을 추정하여 다양한 문제 크기와 프로세서 수에서의 속도 향상을 예측한다.

실험 결과

연구 질문

• RQ1 순차적 및 병렬 환경에서 통신을 최소화하면서도 수치적 안정성을 손상시키지 않는 QR 분해 알고리즘을 설계할 수 있는가?
• RQ2 통신 회피 감소 기법이 높고 가늘게 생긴 행렬의 QR 분해 성능 향상에 얼마나 기여할 수 있는가?
• RQ3 대규모 시스템에서 CAQR과 TSQR은 ScaLAPACK의 PDGEQRF에 비해 확장성과 성능 면에서 어떻게 비교되는가?
• RQ4 통신 장애물(대역폭 및 지연)이 QR 분해 성능에 미치는 영향은 무엇이며, 이를 어떻게 완화할 수 있는가?
• RQ5 통신 회피 QR 분해는 LU 분해나 고유값 해법과 같은 다른 선형 대수 연산으로 확장될 수 있는가?

주요 결과

• 16개 프로세서로 구성된 펜티엄 III 클러스터에서 100,000×200 행렬에 대해 TSQR은 ScaLAPACK 대비 최대 6.7배의 성능 향상을 기록했다.
• 32개 프로세서로 구성된 블루지엔/엘 시스템에서 1,000,000×50 행렬에 대해 TSQR은 우수한 국소 QR 커널을 활용해 최대 4배의 성능 향상을 기록했다.
• 페타스케일 시스템에서 10^4×10^4 행렬에 대해 8192개 프로세서를 사용할 경우 CAQR은 PDGEQRF 대비 최대 22.9배의 속도 향상을 추정했다.
• n=10^5.5일 때, 2개 프로세서에서 8192개 프로세서로 확장했을 경우 CAQR은 1431배의 속도 향상을 기록하여 강력한 확장성을 입증했다.
• 모든 테스트된 행렬 크기에서 CAQR은 PDGEQRF를 항상 앞서며, 유리한 구성 조건에서 최소 1.4배, 최대 7.4배의 성능 향상을 기록했다.
• CAQR는 PDGEQRF보다 성능이 열 劣하지 않으며, 항상 최소한 동일하거나 훨씬 더 빠르며, 특히 지연 시간이 계산 시간을 압도할 경우 두드러진 성능 향상을 보였다.