[논문 리뷰] Computing the R of the QR factorization of tall and skinny matrices using MPI_Reduce

Julien Langou|arXiv (Cornell University)|2010. 02. 23.

Interconnection Networks and Systems참고 문헌 3인용 수 11

한 줄 요약

이 논문은 사용자가 정의한 감소 연산을 사용하여 높고 가느란 행렬의 QR 분해의 R 요소를 계산하기 위한 고수준이고 이식 가능한 MPI 기반 방법을 제시한다. QR 업데이트를 트리 구조 위에서의 결합 연산으로 모델링함으로써, 이 방법은 MPI_Reduce를 활용해 분산 시스템 전반에서 계산을 효율적으로 병렬화하며, 기존의 ScaLAPACK 구현보다 우수한 성능을 달성한다. 특히 통신을 최소화하는 환경에서 두각한 성능 향상을 보인다.

ABSTRACT

A QR factorization of a tall and skinny matrix with n columns can be represented as a reduction. The operation used along the reduction tree has in input two n-by-n upper triangular matrices and in output an n-by-n upper triangular matrix which is defined as the R factor of the two input matrices stacked the one on top of the other. This operation is binary, associative, and commutative. We can therefore leverage the MPI library capabilities by using user-defined MPI operations and MPI_Reduce to perform this reduction. The resulting code is compact and portable. In this context, the user relies on the MPI library to select a reduction tree appropriate for the underlying architecture.

연구 동기 및 목표

• 분산 환경에서 QR 분해의 R 요소를 계산하기 위한 이식 가능하고 효율적인 방법을 제시하기.
• 높고 가느란 행렬의 QR 업데이트 연산이 이진, 결합 법칙이 성립하고 교환 법칙이 성립하는 감소 연산으로 모델링될 수 있음을 보여주기.
• 사용자 정의 연산을 사용한 MPI_Reduce가 저수준 트리 관리 없이도 확장 가능하고 아키텍처에 민감한 계산을 가능하게 함을 보여주기.
• 기존 ScaLAPACK 접근 방식에 비해 통신을 최소화하는 알고리즘의 우수성을 보여주는 성능 비교를 제공하기.
• 이 감소 연산을 MPI 표준으로 포함하여 고성능 선형 대수 계산에 사용 가능한 재사용 가능한 기본 기능으로 삼을 것을 주장하기.

제안 방법

• 높고 가느란 행렬의 QR 분해를 상위 삼각행렬 R의 트리에 대한 감소 연산으로 모델링한다.
• 각 감소 단계는 두 개의 n×n 상부 삼각행렬을 수직으로 붙인 후 그에 대한 QR 분해를 통해 하나의 R 요소로 조합한다.
• 감소 연산은 R := qr(R₁, R₂)로 정의되며, 여기서 qr는 [R₁; R₂]의 R 요소를 계산하고, 이는 결합 법칙이 성립하고 본질적으로 교환 법칙이 성립함을 증명한다.
• 구현은 사용자 정의 MPI_Op를 사용한 MPI_Allreduce를 사용하여 감소를 수행하며, 트리 구조를 사용자에게 은폐한다.
• 이 방법은 로컬 QR 분해를 위해 LAPACK의 DGEQRF를 활용하고, 글로벌 동기화를 위해 MPI의 감소 기능을 사용한다.
• 이 방법은 이진, 평탄한, 또는 네트워크 구조를 고려한 임의의 감소 트리를 지원하며, 성능은 하위 MPI의 트리 선택 전략에 따라 달라진다.

실험 결과

연구 질문

• RQ1 높고 가느란 행렬의 QR 분해를 트리 구조 위에서의 감소 연산으로 표현할 수 있는가?
• RQ2 R 요소를 조합하는 이진 연산이 결합 법칙과 교환 법칙을 충족하여 MPI에서 임의의 감소 트리 구조를 지원할 수 있는가?
• RQ3 MPI 기반 감소의 성능은 수동으로 구현한 감소 트리와 기존 ScaLAPACK QR 분해에 비해 어떻게 다른가?
• RQ4 MPI_Allreduce와 같은 고수준 MPI 기능을 사용하여 통신을 최소화하는 알고리즘을 효율적이고 이식 가능하게 구현할 수 있는가?
• RQ5 기존 하우스홀더 QR에 비해 통신을 최소화하는 감소 전략을 사용할 경우 분산 환경에서 어떤 성능 향상이 달성될 수 있는가?

주요 결과

• 제안된 감소 연산은 수학적으로 타당하고 안정적이며, 대각선 원소의 부호 변화를 제외하고 R 요소는 유일하다.
• 이 연산은 부호를 제외한 결합 법칙과 교환 법칙을 만족하므로, MPI에서 임의의 감소 트리 구조에 사용할 수 있다.
• 두 줄의 MPI_Allreduce 기반 구현은 1M×50 행렬에 대해 256개 프로세서에서 414 MFlop/sec/proc의 성능을 기록했으며, ScaLAPACK의 PDGEQRx(184 MFlop/sec/proc)를 초월한다.
• 수동으로 구현한 이진 트리 기반 TSQR은 610 MFlop/sec/proc를 기록했고, MPI_Allreduce 기반 버전(392 MFlop/sec/proc)보다 뛰어나, MPI의 트리 선택 전략이 최적화되어 있지 않을 수 있음을 시사한다.
• MPI_Allreduce와 수동 트리 간의 성능 격차는 통신을 최소화하는 알고리즘에서 트리 인식 감소의 중요성을 강조한다.
• 이 방법은 아키텍처 간에 강력한 확장성과 이식 가능성을 보이며, MPI가 하위 네트워크 및 메모리 계층을 자동으로 적응함으로써 성능을 최적화한다.