[논문 리뷰] A low memory, highly concurrent multigrid algorithm

Mark F. Adams|arXiv (Cornell University)|2012. 07. 28.

Parallel Computing and Optimization Techniques참고 문헌 12인용 수 5

한 줄 요약

이 논문은 세그멘탈 리파인먼트(SR)와 τ-보정을 기반으로 한 저메모리, 고병렬성 다중격자 알고리즘을 제시하며, 전체 미세 격자를 저장하지 않고도 이를 순차적으로 스캔함으로써 최소한의 저장공간으로 PDE를 효율적으로 해결할 수 있도록 한다. 이 알고리즘은 하나의 FMG 사이클로도 두 번째 차수 정확도를 달성하며, 높은 병렬성과 데이터 재사용성을 보이며, 향후 메모리 중심 아키텍처에 적합하다.

ABSTRACT

We examine what is an efficient and scalable nonlinear solver, with low work and memory complexity, for many classes of discretized partial differential equations (PDEs) - matrix-free Full multigrid (FMG) with a Full Approximation Storage (FAS) - in the context of current trends in computer architectures. Brandt proposed an extremely low memory FMG-FAS algorithm over 25 years ago that has several attractive properties for reducing costs on modern - memory centric -- machines and has not been developed to our knowledge. This method, segmental refinement (SR), has very low memory requirements because the finest grids need not be held in memory at any one time but can be "swept" through, computing coarse grid correction and any quantities of interest, allowing for orders of magnitude reduction in memory usage. This algorithm has two useful ideas for effectively exploiting future architectures: improved data locality and reuse via "vertical" processing of the multigrid algorithms and the method of $τ$-corrections, which allows for not storing the entire fine grids at any one time. This report develops this algorithm for a model problem and a parallel generalization of the original sweeping technique. We show that FMG-FAS-SR can work as originally predicted, solving systems accurately enough to maintain the convergence rate of the discretization with one FMG iteration, and that the parallel algorithm provides a natural approach to fully exploiting the available parallelism of FMG.

연구 동기 및 목표

• 미래의 메모리 중심 고성능 컴퓨팅 아키텍처에 적합한 저메모리, 확장 가능한 다중격자 솔버를 개발하는 것.
• 초거대 규모 컴퓨팅에서 증가하는 메모리 이동 비용과 에너지 소비 문제를 해결하기 위해 메모리 사용을 줄이고 데이터 국소성을 향상시키는 것.
• 브랜트의 1970년대 세그멘탈 리파인먼트(SR) 알고리즘을 병렬적, 비동기적, 데이터 기반 다중격자 방법으로 일반화하는 것.
• 수직 처리와 τ-보정을 통해 격자 이산화 정확도(두 번째 차수)를 유지하면서 저장공간과 메모리 이동을 최소화하는 것.
• 다양한 솔버 설정을 가진 1D 모델 문제에서 알고리즘의 실현 가능성과 성능을 탐색하는 것.

제안 방법

• 알고리즘은 전체 미세 격자를 동시에 저장하지 않고, 격자를 패치 단위로 처리하고 순차적으로 스캔함으로써 세그멘탈 리파인먼트(SR)를 사용한다.
• τ-보정을 통해 미세 격자 보정을 굵은 격자에 암시적으로 표현함으로써, 미세 격자 데이터를 명시적으로 저장할 필요 없이 처리한다.
• 다중격자 루프의 수직 처리를 가능하게 하여, 스무딩, 제한, 확장 단계를 각 패치 단위로 융합함으로써 데이터 재사용성과 국소성을 극대화한다.
• 블록 자이아코비 스무딩기와 겹치는 부분영역 및 할로 셀을 사용하여 전역 통신 없이도 정확한 국소 해를 구할 수 있도록 한다.
• 알고리즘은 비동기적, 작업 기반 프로그래밍 모델에서 자연스럽게 표현되며, 높은 병렬성과 로드 불균형에 대한 회복력을 제공한다.
• 테스트 문제로 2차 유한체적 이산화를 적용한 1D 라플라시안을 사용하며, FMG 사이클과 다양한 스무딩기 설정을 적용한다.

실험 결과

연구 질문

• RQ1 전체 미세 격자를 저장하지 않는 한계 속에서, 세그멘탈 리파인먼트(SR) 알고리즘이 하나의 FMG 사이클로도 두 번째 차수 정확도를 유지할 수 있는가?
• RQ2 겹치는 부분영역 스무딩기와 2개 또는 4개의 할로 셀을 사용할 때, SR 기반 다중격자 방법의 성능이 표준 다중격자 방법과 비교해 어떻게 되는가?
• RQ3 겹치는 부분영역을 가진 자이아코비 스무딩기를 사용할 경우, 표준 가우스-세이델 스무딩기와 비교해 수렴 특성이 얼마나 영향을 받는가?
• RQ4 패치 기반 수직 처리를 통해 고병렬성과 데이터 재사용을 달성하면서도 메모리 이동을 최소화할 수 있는가?
• RQ5 이 알고리즘이 초거대 규모 컴퓨팅 환경에서 비동기적, 데이터 기반 프로그래밍 모델에 자연스럽게 적합한가?

주요 결과

• 4개의 할로 셀을 사용한 부분영역 솔버에서 FMG-FAS-SR 알고리즘이 하나의 FMG 사이클로도 두 번째 차수 정확도를 유지함을 확인하여 이론적 잠재력을 입증하였다.
• 2개의 할로 셀과 V(1,1) 사이클을 사용할 경우, 절단 오차 정확도에 손실가 발생함을 확인하여 충분한 할로 데이터가 수렴 순서를 유지하는 데 필수적임을 시사한다.
• 부분영역 솔버에서 4개의 할로 셀을 사용할 경우, 모든 테스트 설정에서 뛰어난 수렴 행동을 보이며, 강건성과 정확성을 입증하였다.
• 자이아코비 스무딩기를 사용한 결과는 표준 가우스-세이델 스무딩기의 결과보다 다소 덜 깔끔하지만, 여전히 수용 가능한 성능과 안정성을 보였다.
• 알고리즘의 설계는 패치 기반 수직 처리를 통해 고병렬성과 데이터 재사용을 달성하며, 메모리 이동을 줄이고 메모리 중심 아키텍처에서 효율적인 실행을 가능하게 하였다.
• 이 방법은 비동기 실행과 작업 기반 모델을 자연스럽게 지원하며, 초거대 규모 시스템 프로그래밍의 현대적 추세와 부합한다.