[논문 리뷰] Recent implementations, applications, and extensions of the Locally Optimal Block Preconditioned Conjugate Gradient method (LOBPCG)

Andrew Knyazev|arXiv (Cornell University)|2017. 01. 01.

Matrix Theory and Algorithms참고 문헌 5인용 수 4

한 줄 요약

이 논문은 대규모 대칭 고유값 문제를 위한 스케일러블하고 안정적이며 효율적인 고유값 해법인 국소적으로 최적의 블록 조절 조건부 켤레 기울기(LOBPCG) 방법의 최근 구현, 응용 및 확장 사항을 검토한다. LOBPCG는 재료 과학, 데이터 마이닝, 계산 물리학 등 다양한 분야에서 활용되고 있으며, 블록 변형, GPU 가속, 비선형 및 텐서 구조 문제로의 확장과 같은 혁신을 다룬다.

ABSTRACT

Since introduction [A. Knyazev, Toward the optimal preconditioned eigensolver: Locally optimal block preconditioned conjugate gradient method, SISC (2001) DOI:10.1137/S1064827500366124] and efficient parallel implementation [A. Knyazev et al., Block locally optimal preconditioned eigenvalue xolvers (BLOPEX) in HYPRE and PETSc, SISC (2007) DOI:10.1137/060661624], LOBPCG has been used is a wide range of applications in mechanics, material sciences, and data sciences. We review its recent implementations and applications, as well as extensions of the local optimality idea beyond standard eigenvalue problems.

연구 동기 및 목표

• 과학 계산 및 데이터 과학 전반에서 LOBPCG의 최근 구현 및 응용을 요약하는 것.
• 표준 대칭 고유값 문제를 초월한 국소 최적성 원리의 확장 사항을 검토하는 것.
• LOBPCG가 고성능 계산 스택 및 생산 소프트웨어에서 수행하는 역할을 평가하는 것.
• 큰 블록 크기에 대해 정규직교화 및 레일리-리츠 비용을 줄이기 위한 열린 과제를 식별하는 것.

제안 방법

• 현재 반복값, 잔차 및 이전 반복값이 생성하는 부분공간에서 레일리 몫을 최소화하기 위해 국소적으로 최적의 탐색 방향을 갖는 블록 켈리 서브공간 방법을 활용하는 것.
• 수렴을 가속화하면서도 안정성을 유지하기 위해 대칭 양의 정부호 또는 가변 조절 조건부를 사용하는 조절 조건부 적용.
• 블록 형식을 통해 BLAS 3 최적화된 행렬-행렬 연산을 활용하여 병렬 성능을 향상시키는 것.
• 수치적 불안정성 없이 매 반복마다 고유벡터 근사값을 유지하고 온전한 시작을 구현하는 것.
• 다양한 다양체 조절 조건부와 계층적 터커 형식을 사용하여 비선형 헤르미트 고유값 문제 및 텐서 구조 문제로 LOBPCG를 확장하는 것.
• 내부 고유값 문제를 해결하고 정규직교화 비용을 줄인 병렬 실행을 가능하게 하는 FS-LOBPCG(접힌 스펙트럼 LOBPCG) 및 LOBPCG II를 도입하는 것.

실험 결과

연구 질문

• RQ1 대규모 고유값 문제에서 랭크츠 방법과 비교해 LOBPCG는 어떻게 선형 수렴성과 수치적 안정성을 유지하는가?
• RQ2 블록 및 조절 조건부 변형된 LOBPCG는 고성능 계산 환경에서 성능과 확장성에 어떤 방식으로 기여하는가?
• RQ3 LOBPCG를 큰 블록 크기에까지 확장할 때의 주요 과제는 무엇이며, 정규직교화 및 레일리-리츠 절차는 어떻게 최소화할 수 있는가?
• RQ4 LOBPCG의 확장 사항은 비선형 고유값 문제, 텐서 구조 문제, 양자 화학 분야에서 어떻게 응용되었는가?
• RQ5 LOBPCG는 PETSc, hypre, ABINIT와 같은 주요 과학 소프트웨어 스택에서 어떤 역할을 했는가?

주요 결과

• LOBPCG는 특히 ABINIT 및 관련 소프트웨어에서 밀도 기반 이론(DFT) 전자 구조 계산의 표준 방법으로 채택되었다.
• LOBPCG는 PETSc, hypre, Anasazi/Trilinos와 같은 주요 HPC 소프트웨어 스택에서 네이티브로 지원되며 OpenHPC에 사전 패ckaged되어 있다.
• MAGMA, AmgX, ABINIT에서의 GPU 가속 구현은 현대 이종 아키텍처에서 높은 성능을 보였다.
• FS-LOBPCG 및 LOBPCG II와 같은 확장 사항은 내부 고유값의 효율적 계산과 정규직교화 비용을 줄인 병렬 실행을 가능하게 하였다.
• TT 및 계층적 터커 형식을 포함한 텐서 구조 변형 LOBPCG는 고차원 다체 슈뢰딩거 방정식의 해법을 가능하게 하였다.
• 광범위한 채택에도 불구하고, 큰 블록 크기에 대해 정규직교화 및 레일리-리츠 절차의 계산 비용을 줄이는 것은 여전히 열린 과제이다.