[논문 리뷰] An Efficient Solver for Sparse Linear Systems Based on Rank-Structured Cholesky Factorization

Jeffrey N. Chadwick, David Bindel|arXiv (Cornell University)|2015. 07. 20.

Matrix Theory and Algorithms참고 문헌 17인용 수 8

한 줄 요약

이 논문은 낮은 랭크 행렬 근사의 메모리 효율성과 슈퍼노드 콘도레스 분해의 고성능 메모리 액세스 패턴을 결합한 새로운 희소, 랭크 구조를 가진 콘도레스 해법기를 제시한다. 콘도레스 인자에서 비대칭 블록과 대각선 블록에 무작위 낮은 랭크 압축을 적용함으로써, 이 방법은 PDE 이산화 선형 시스템에 대해 표준 희소 콘도레스 해법기와 조절된 반복 해법기보다 메모리 사용량과 월클럭 시간을 모두 감소시킨다.

ABSTRACT

Direct factorization methods for the solution of large, sparse linear systems that arise from PDE discretizations are robust, but typically show poor time and memory scalability for large systems. In this paper, we describe an efficient sparse, rank-structured Cholesky algorithm for solution of the positive definite linear system $A x = b$ when $A$ comes from a discretized partial-differential equation. Our approach combines the efficient memory access patterns of conventional supernodal Cholesky algorithms with the memory efficiency of rank-structured direct solvers. For several test problems arising from PDE discretizations, our method takes less memory than standard sparse Cholesky solvers and less wall-clock time than standard preconditioned iterations.

연구 동기 및 목표

• 대규모 3차원 PDE 이산화에 대해 표준 희소 직접 해법기의 낮은 확장성 문제를 해결한다: 메모리와 시간 측면에서.
• 비대칭 및 대각선 블록에 있는 낮은 랭크 구조를 이용해 기존 희소 콘도레스 분해의 높은 필르 인과 메모리 오버헤드 문제를 해결한다.
• 기초가 되는 PDE 메쉬나 기하학에 대한 지식이 필요 없이도 고성능을 유지하는 블랙박스 해법기를 개발한다.
• PDE 문제에 대해 표준 희소 콘도레스 해법기와 조절된 반복 방법보다 더 나은 메모리 및 시간 효율성을 달성한다.
• 공간 분리 변수에 의한 하위블록 형성에 따라 반복적으로 낮은 랭크 근사를 적용함으로써 대각선 블록의 계층적 압축을 통합한다.

제안 방법

• 유사한 흐트러짐 패턴을 가진 컬럼을 슈퍼노드로 묶어, 성능 향상을 위한 조밀한 행렬 연산을 가능하게 하기 위해 슈퍼노드 왼쪽 봉인 콘도레스 알고리즘을 적응시킨다.
• 스위프트 반복을 통한 무작위 단일값 분해(SVD)를 사용해 슈퍼노드 간 비대칭 블록 $\mathbf{L}^O_j$ 의 낮은 랭크 근사를 계산한다.
• 큰 비대칭 블록의 명시적 형성 방지를 위해 암시적 행렬-벡터 곱셈을 사용하여 낮은 랭크 근사 과정 중 메모리 사용량을 줄인다.
• 큰 슈퍼노드 내부의 재정렬을 통해 대각선 블록 $\mathbf{L}^D_j$ 에 낮은 랭크 구조를 드러내어 하위블록의 반복적 압축을 가능하게 한다.
• 무작위 투영에서 정규직교 기저를 추출하기 위해 QR 기반 수직분해를 사용하여 비대칭 상호작용의 안정적인 낮은 랭크 분해를 보장한다.
• 공간 분리 변수에 의해 형성된 하위블록에 대해 반복적으로 낮은 랭크 근사를 적용함으로써 대각선 블록의 계층적 압축을 통합한다.

실험 결과

연구 질문

• RQ1 콘도레스 인자에서 비대칭 및 대각선 블록의 낮은 랭크 압축이 해법 정확도를 훼손하지 않으면서도 메모리 사용량을 줄일 수 있는가?
• RQ2 슈퍼노드 구조와 낮은 랭크 근사를 결합하면 표준 희소 콘도레스 해법기 또는 조절된 카일로프 방법보다 더 빠른 해법 시간을 달성할 수 있는가?
• RQ3 기초 PDE 메쉬나 기하학 정보 없이도 자동으로 낮은 랭크 구조를 활용하는 블랙박스 해법기를 설계할 수 있는가?
• RQ4 큰 비대칭 블록의 근사에 대해 암시적 행렬-벡터 곱셈을 사용한 무작위 SVD는 얼마나 효과적인가?
• RQ5 대규모 3차원 문제에서 대각선 블록의 계층적 압축은 얼마나 더 메모리와 계산 비용을 줄일 수 있는가?

주요 결과

• 제안된 해법기는 몇 가지 PDE 이산화 테스트 문제에서 표준 희소 콘도레스 해법기보다 더 적은 메모리를 사용한다.
• 동일한 테스트 문제에서 표준 조절된 반복 해법기보다 더 짧은 월클럭 시간을 달성한다.
• 비대칭 블록의 낮은 랭크 근사는 암시적 행렬-벡터 곱을 사용해 명시적 저장 없이 효율적으로 계산된다.
• 대각선 블록의 계층적 압축은 반복적인 낮은 랭크 구조를 드러내어 큰 슈퍼노드에서 추가적인 메모리 절감을 가능하게 한다.
• 슈퍼노드 프레임워크에서 최적화된 메모리 액세스 패턴을 통해 높은 성능을 유지하면서 데이터 희소 압축을 달성한다.
• 해법기는 기초 PDE 메쉬나 기하학에 대한 지식이 필요 없이 블랙박스로 작동하여 PDE 이산화에 널리 적용 가능하다.