[논문 리뷰] High Performance Block Incomplete LU Factorization

Matthias Bollhöfer, Olaf Schenk외 1명|arXiv (Cornell University)|2019. 08. 27.

Matrix Theory and Algorithms인용 수 3

한 줄 요약

이 논문은 변수 크기의 블록과 조밀 행렬 커널(예: 레벨-3 BLAS/LAPACK)을 활용하여 희소 선형 시스템의 조건부 행렬을 극적으로 가속화하는 고성능 블록 비완전 LU(BILU) 분해를 제안한다. 초기에 행렬을 블록으로 재구성하고 요소 분해 중에 블록 구조를 동적으로 조정함으로써, 스칼라 ILU에 비해 성능 향상의 주요 요인을 달성하며, 직접 해법기인 MA57에 가까운 효율성을 유지하면서도 대칭 부정정 문제에 대해 뛰어난 안정성을 확보한다.

ABSTRACT

Many application problems that lead to solving linear systems make use of preconditioned Krylov subspace solvers to compute their solution. Among the most popular preconditioning approaches are incomplete factorization methods either as single-level approaches or within a multilevel framework. We will present a block incomplete factorization that is based on skillfully blocking the system initially and throughout the factorization. This approach allows for the use of cache-optimized dense matrix kernels such as level-3 BLAS or LAPACK. We will demonstrate how this block approach outperforms the scalar method often by orders of magnitude on modern architectures, paving the way for its prospective use inside various multilevel incomplete factorization approaches or other applications where the core part relies on an incomplete factorization.

연구 동기 및 목표

• 현대 아키텍처에서 스칼라 비완전 LU 분해의 성능 저하 문제를 해결하기 위해.
• 조밀 행렬 연산을 활용하여 계산 효율성을 향상시키는 블록 구조 ILU 방법을 개발하기 위해.
• 적응형 블록 분할과 대각 우세성 향상 전략을 통해 필르 인을 감소시키고 수치적 안정성을 향상시키기 위해.
• 요소 분해 및 반복 해법 단계 모두에서 MA57과 같은 고성능 직접 해법기와의 경쟁력을 입증하기 위해.
• 다단계 조건부 행렬 프레임워크에 블록 ILU를 통합하기 위한 기초를 마련하기 위해.

제안 방법

• 해결 순서 트리 기반의 사전 블록 분할을 통해 조밀한 부분 구조를 식별한다.
• 요소 분해 중에 블록을 동적으로 집계하고 재구성하여 수치적 안정성과 성능를 유지한다.
• 조밀한 부분 행렬에 대해 레벨-3 BLAS 및 LAPACK 커널을 사용하여 데이터 국소성과 캐시 효율성을 극대화한다.
• 대칭 부정정 시스템의 경우,余弦 기반 압축과 대칭화된 택정을 포함한 대칭 전처리 블록 LDLT 분해(BILDL)를 사용한다.
• 블록 내부에 임계값 기반의 제거 전략을 적용하며, 국소 조건 수에 따라 1×1 및 2×2 택정을 처리하기 위한 전략을 적응적으로 적용한다.
• 블록 구조 최적화를 위해 압축된 그래프에 성능 기반의 재정렬 및 압축 전략을 적용한다.

실험 결과

연구 질문

• RQ1 변수 크기의 블록 기반 비완전 분해가 현대 아키텍처에서 스칼라 ILU보다 계산 속도 면에서 뛰어나게 되는가?
• RQ2 조밀 행렬 커널이 희소 선형 시스템에서 비완전 분해의 성능을 얼마나 향상시킬 수 있는가?
• RQ3 동적 블록 집합이 필르 인 감소와 수치적 안정성 유지에 얼마나 효과적인가?
• RQ4 블록 ILU가 대칭 부정정 문제에 대해 MA57과 같은 직접 해법기와 유사한 성능을 달성할 수 있는가?
• RQ5 조건부 반복 해법기에서 다양한 드롭 허용 오차에 따라 블록 방법의 확장성은 어떻게 되는가?

주요 결과

• 레벨-3 BLAS와 조밀 행렬 커널의 효율적 사용 덕분에, 현대 아키텍처에서 블록 ILU 방법은 스칼라 ILU에 비해 성능을 수 개의 주기수만큼 향상시킨다.
• 대칭 부정정 문제의 경우, BILDL 변형은 작은 드롭 허용 오차에서 직접 해법기 MA57와 경쟁 가능하며, 특히 반복 해법 비용까지 포함한 전체 비용을 고려할 때 뚜렷한 우월성을 보인다.
• 반복 해법기(SQMR)를 포함한 총 계산 시간을 분석한 결과, 성능 프로파일을 통해 블록 구조 방법이 스칼라 ILU를 크게 능가함을 확인할 수 있다.
• 작은 드롭 허용 오차에서 블록 ILU의 메모리 소비는 MA57에 근접하여, 필르 인이 최소화되고 저장 효율성이 높다는 것을 시사한다.
• 이 방법은 요소 분해 뿐 아니라 전체 해법 과정에서도 높은 성능를 달성하며, 강건성과 확장성 모두를 입증한다.
• 변수 크기의 블록과 동적 재구성 전략을 통해 고정 또는 스칼라 방법에 비해 더 나은 수치적 행동과 성능를 확보할 수 있다.