[논문 리뷰] Fast Multipole Preconditioners for Sparse Matrices Arising from Elliptic Equations

Huda Ibeid, Rio Yokota외 2명|Strathprints: The University of Strathclyde institutional repository (University of Strathclyde)|2013. 08. 15.

Electromagnetic Scattering and Analysis참고 문헌 51인용 수 7

한 줄 요약

이 논문은 타원 PDE의 유한차분/유한요소 이산화에서 유도된 희소 선형 시스템에 대해 빠른 다중체 방법(Fast Multipole Method, FMM)을 행렬을 사용하지 않는 조건부 행렬로 사용하는 것을 제안한다. FMM의 계층적 행렬 압축 기법과 켈리브 하위공간 방법을 결합하여, 특히 512코어를 초월할 경우 통신 감소와 높은 산술 집약도 덕분에 분산 메모리 시스템에서 더 뛰어난 확장성을 보이며, 알제브라적 다중격자(AMG)와 유사한 수렴 속도를 달성한다.

ABSTRACT

Among optimal hierarchical algorithms for the computational solution of elliptic problems, the Fast Multipole Method (FMM) stands out for its adaptability to emerging architectures, having high arithmetic intensity, tunable accuracy, and relaxable global synchronization requirements. We demonstrate that, beyond its traditional use as a solver in problems for which explicit free-space kernel representations are available, the FMM has applicability as a preconditioner in finite domain elliptic boundary value problems, by equipping it with boundary integral capability for satisfying conditions at finite boundaries and by wrapping it in a Krylov method for extensibility to more general operators. Here, we do not discuss the well developed applications of FMM to implement matrix-vector multiplications within Krylov solvers of boundary element methods. Instead, we propose using FMM for the volume-to-volume contribution of inhomogeneous Poisson-like problems, where the boundary integral is a small part of the overall computation. Our method may be used to precondition sparse matrices arising from finite difference/element discretizations, and can handle a broader range of scientific applications. Compared with multigrid methods, it is capable of comparable algebraic convergence rates down to the truncation error of the discretized PDE, and it offers potentially superior multicore and distributed memory scalability properties on commodity architecture supercomputers. Compared with other methods exploiting the low rank character of off-diagonal blocks of the dense resolvent operator, FMM-preconditioned Krylov iteration may reduce the amount of communication because it is matrix-free and exploits the tree structure of FMM. We describe our tests in reproducible detail with freely available codes and outline directions for further extensibility.

연구 동기 및 목표

• 기존에 단독 해법으로만 사용되던 빠른 다중체 방법(Fast Multipole Method, FMM)을 타원 PDE의 유한차분/유한요소 이산화에서 유도된 희소 선형 시스템의 조건부 행렬로 확장함으로써 응용 범위를 넓히는 것.
• 현대 병렬 아키텍처에서 타원 문제의 켈리브 해법에서 발생하는 통신 및 동기화 병목 현상을 FMM의 저통신, 고산술 집약도 아키텍처를 활용하여 해결하는 것.
• FMM 기반 조건부 행렬이 알제브라적 다중격자(AMG)와 유사한 수렴 속도를 달성하면서도 대규모 분산 메모리 시스템에서 더 뛰어난 확장성을 보일 수 있음을 입증하는 것.
• 재현 가능하고 오픈소스 기반의 구현을 통해 2D 및 3D 포아송 및 스토크스 문제에서 이 방법의 타당성을 검증하는 것.
• 향후 엑사스케일 해법을 위한 실용적이고 조정 가능한 대안으로 FMM 기반 조건부 행렬의 위치를 확립하는 것. 특히 AMG가 메모리나 동기화에 병목이 되는 환경에서의 유용성을 강조함.

제안 방법

• 유한 도메인 내 타원 문제의 경계 조건을 만족시키기 위해 FMM을 경계 적분 방법과 통합함으로써, 비균일 포아송형 방정식에 적용 가능하게 하는 방법.
• 켈리브 하위공간 반복법(CG, GMRES 등) 내에서 FMM을 행렬을 사용하지 않는 연산자로 활용함으로써, 명시적 행렬 조립을 피하고 메모리 사용량을 줄이는 방법.
• FMM의 계층적 트리 구조를 활용하여 원거리 상호작용(M2L)과 근접 상호작용(P2P)을 효율적으로 계산함으로써, 저통신, 고산술 집약도 계산을 실현하는 방법.
• 시스템 행렬의 체적 기여 부분에 FMM을 적용하고 경계 적분을 소규모 보정으로 간주함으로써 주로 계산 비용이 큰 부분에 집중하는 방법.
• 조정 가능한 정밀도를 갖는 이중 트리 순회 알고리즘을 사용하여 M2L 및 P2P 상호작용을 O(N) 복잡도로 계산하는 방법.
• FMM을 켈리브 해법의 조건부 행렬로 통합하여 행렬의 명시적 저장 없이도 절단 오차 수준까지 수렴 가능한 조건부 반복 프레임워크를 구성하는 방법.

실험 결과

연구 질문

• RQ1 기본적인 유한차분/유한요소 이산화에서 유도된 희소 선형 시스템에 대해 FMM을 효과적으로 조건부 행렬로 재사용할 수 있는가?
• RQ2 분산 메모리 아키텍처에서 FMM 조건부 행렬과 알제브라적 다중격자(AMG)의 수렴 속도, 통신 비용, 확장성 측면에서 비교했을 때 어떤가?
• RQ3 M2L 연산이 2D에 비해 훨씬 더 복잡한 3D 문제에서 FMM 조건부 행렬이 성능 우위를 유지하는가?
• RQ4 특히 대규모에서 FMM 기반 조건부 행렬이 켈리브 해법의 전역 동기화 및 통신 오버헤드를 줄일 수 있는가?
• RQ5 동일한 행렬을 여러 번 풀어야 하는 경우, FMM과 직접 해법(MUMPS 등) 간의 설정 비용과 해를 구하는 데 소요되는 시간 사이의 성능 상충 관계는 어떠한가?

주요 결과

• FMM 조건부 행렬은 2D 및 3D 포아송 및 스토크스 문제에서 알제브라적 다중격자(AMG)와 유사한 수렴 속도를 달성하며, PDE의 절단 오차 수준까지 AMG와 동일한 수렴 행동을 보인다.
• 스탬피드 슈퍼컴퓨터에서 4096² 격자에 대해 FMM 조건부 행렬은 1024코어까지 강력한 스케일링을 보였지만, AMG는 128코어를 초월하면서 병렬 효율성이 크게 떨어졌다.
• 3D 문제에서는 M2L 연산의 복잡도 증가로 인해 FMM이 2D FMM 대비 코어당 약 10배 정도 느리지만, 샤헤인 II에서 128코어까지 강력한 스케일링을 유지한다.
• 대규모 3D 문제에서 512코어를 초월할 경우 FMM은 보머AMG를 능가하는 성능을 보이며, 고도로 병렬화된 메모리 대역폭 제한 환경에서 잠재적인 이점이 있음을 시사한다.
• 희소 직접 해법인 MUMPS는 확장성 면에서 현저히 열 劣하고 해를 구하는 데 소요되는 시간이 훨씬 길며, 설정 비용이 지배적이므로 대규모 반복 해법에선 실용적이지 않다.
• FMM 조건부 행렬은 행렬을 사용하지 않는 특성과 트리 기반 데이터 레이아웃 덕분에 통신 비용을 줄여, 향후 저동기화 내성의 엑사스케일 시스템에 매우 적합하다.