[논문 리뷰] s-Step Orthomin and GMRES implemented on parallel computers

A.T. Chronopoulos, S. K. Kim|arXiv (Cornell University)|2020. 01. 14.

Matrix Theory and Algorithms참고 문헌 12인용 수 15

한 줄 요약

이 논문은 계층적 메모리 슈퍼컴퓨터에서 큰 비대칭 선형계를 해결할 때 데이터 국소성과 병렬성을 향상시키기 위해 s단계 Orthomin 및 GMRES 방법을 제안한다. BLAS3를 활용한 블록 연산을 통해 s개의 동시 탐색 방향을 형성함으로써, 메모리 트래픽과 통신 오버헤드를 감소시켜, 비전처리된 문제의 경우 Cray-2에서 최대 1.5배의 성능 향상을 달성했으며, 전처리된 경우 1.3배를 기록했다. 특히 행렬-벡터 곱셈을 로컬 메모리 사용으로 최적화한 경우 성능 향상이 두드러졌다.

ABSTRACT

The Orthomin ( Omin ) and the Generalized Minimal Residual method ( GMRES ) are commonly used iterative methods for approximating the solution of non-symmetric linear systems. The s-step generalizations of these methods enhance their data locality parallel and properties by forming s simultaneous search direction vectors. Good data locality is the key in achieving near peak rates on memory hierarchical supercomputers. The theoretical derivation of the s-step Arnoldi and Omin has been published in the past. Here we derive the s-step GMRES method. We then implement s-step Omin and GMRES on a Cray-2 hierarchical memory supercomputer.

연구 동기 및 목표

• 계층적 메모리 아키텍처에서 비대칭 선형계를 위한 반복 해법의 데이터 국소성과 병렬성을 향상시키기 위해.
• BLAS3 루틴을 사용해 다수의 반복을 블록 연산으로 통합함으로써 메모리 대역폭 제약을 줄이기 위해.
• 기존의 s단계 Orthomin 및 아르니홀드 방법 연구를 확장하여 s단계 GMRES를 유도하고 구현하기 위해.
• PDE의 유한차분 이산화를 사용해 Cray-2 슈퍼컴퓨터에서 성능 향상을 평가하기 위해.
• 로컬 메모리를 활용하고 주 메모리 액세스를 최소화하기 위해, Cray 어셈블리어(CAL)를 수동으로 코딩하여 행렬-벡터 곱셈을 최적화하기 위해.

제안 방법

• 반복적으로 행렬-벡터 곱셈을 통해 생성된 s개의 동시 탐색 방향을 사용하여 표준 GMRES 알고리즘을 일반화함으로써 s단계 GMRES 방법을 유도한다.
• BLAS3 연산(예: GAXPY, 내적)을 사용해 s방향 벡터를 형성함으로써, 메모리 참조 수 대비 부동소수점 연산 수의 비율을 s배 감소시킨다.
• Cray-2에서 벡터 파이프라인, 로컬 메모리, 단일 경로 메모리 아키텍처를 활용하여 s단계 Orthomin 및 GMRES를 구현한다.
• 수렴성을 향상시키고 반복 횟수를 줄이기 위해 ILU(0) 전처리를 적용한다.
• 로컬 메모리를 활용하고 주 메모리 액세스를 최소화하기 위해 수동으로 코딩한 Cray 어셈블리어(CAL)를 사용해 행렬-벡터 곱셈을 최적화한다.
• 선형 조합을 단일 GAXPY 연산으로 전개하여 명령 수준 병렬성 향상과 루프 오버헤드 감소를 도모한다.

실험 결과

연구 질문

• RQ1 s단계 방법은 Cray-2와 같은 계층적 메모리 슈퍼컴퓨터에서 메모리 트래픽을 크게 줄이고 성능을 향상시킬 수 있는가?
• RQ2 s단계 GMRES 방법은 표준 GMRES에 비해 수렴성과 실행 시간 측면에서 어떻게 비교되는가?
• RQ3 행렬-벡터 곱셈이 비용이 많이 드는 경우, 블록 크기 s가 수렴 행동과 성능에 미치는 영향은 어떠한가?
• RQ4 저수준 어셈블리어를 통해 행렬-벡터 곱셈에서 로컬 메모리 사용을 최적화하면 성능 향상이 이뤄지는가?
• RQ5 s단계 접근법은 통신 및 동기화 오버헤드를 줄이면서도 표준 방법과 동일한 수렴 성질을 유지하는가?

주요 결과

• 비전처리된 시스템에서 s-step Orthomin(2)는 Cray-2에서 표준 Orthomin(4) 대비 1.5배의 성능 향상을 달성했다.
• s-step GMRES(2)는 표준 GMRES(10) 대비 1.3배의 성능 향상을 기록했지만, 전처리를 적용한 경우 전처리기의 저성능(MFLOP)으로 인해 성능 향상이 감소했다.
• 동일한 문제 크기에서 s-GMRES(2)는 GMRES(10)와 동일한 반복 횟수를 기록했으며, 이는 s단계 방법이 수렴 행동을 유지함을 확인한다.
• s-Omin(k) 및 s-GMRES(m)의 반복 횟수는 표준 방법과 유사했지만, 데이터 국소성 향상 덕분에 실행 시간은 크게 감소했다.
• BLAS3 연산을 위한 루프를 전개해도 성능 향상이 없었으며, 이는 루프 오버헤드가 아닌 메모리 액세스 패턴이 주요 병목임을 시사한다.
• 저자들은 행렬-벡터 곱셈을 Cray 어셈블리어(CAL)로 구현함으로써 로컬 메모리를 완전히 활용하고 주 메모리 대역폭 압력을 줄여 더 큰 성능 향상을 기대한다.