[논문 리뷰] A New Highly Parallel Non-Hermitian Eigensolver

Ping Tak Peter Tang, James Kestyn외 1명|arXiv (Cornell University)|2014. 04. 10.

Quantum Mechanics and Non-Hermitian Physics참고 문헌 21인용 수 7

한 줄 요약

이 논문은 복소수 평면 상의 커펀브를 따라 수치 적분을 이용한 새로운 유비쿼터스 유한 차원 비에르미트 고유치문제 해법인 Non-Hermitian FEAST를 소개한다. 이는 기존의 에르미트 FEAST 알고리즘의 일반화로, 카우치 적분을 통한 새로운 유리 근사법을 사용한다. 이 방법은 수치 적분 기반의 스펙트럴 프로젝터에 의해 가속화된 부분공간 반복을 사용하여 다수의 수준의 병렬성과 오른쪽 및 왼쪽 고유공간에 대한 강력한 수렴성을 가능하게 하며, 대규모 아키텍처에서 높은 성능을 보여준다.

ABSTRACT

Calculating portions of eigenvalues and eigenvectors of matrices or matrix pencils has many applications. An approach to this calculation for Hermitian problems based on a density matrix has been proposed in 2009 and a software package called FEAST has been developed. The density-matrix approach allows FEAST's implementation to exploit a key strength of modern computer architectures, namely, multiple levels of parallelism. Consequently, the software package has been well received and subsequently commercialized. A detailed theoretical analysis of Hermitian FEAST has also been established very recently. This paper generalizes the FEAST algorithm and theory, for the first time, to tackle non-Hermitian problems. Fundamentally, the new algorithm is basic subspace iteration or Bauer bi-iteration, except applied with a novel accelerator based on Cauchy integrals. The resulting algorithm retains the multi-level parallelism of Hermitian FEAST, making it a valuable new tool for large-scale computational science and engineering problems on leading-edge computing platforms.

연구 동기 및 목표

• 원래 에르미트 문제를 위해 설계된 FEAST 고유치해법을 비에르미트 일반화 고유치문제로 확장하기.
• 다수의 수준의 병렬성을 유지하는 이론적으로 탄탄한 병렬화 가능한 알고리즘을 개발하여 비에르미트 경우에도 적용 가능하게 하기.
• 과학적 및 공학적 응용 분야에서 스펙트럼의 일부만 관심 대상인 대규모 문제에서 선택된 고유쌍을 효율적으로 계산할 수 있도록 하기.
• 비에르미트 설정에서 수치 적분 기반의 근사 스펙트럴 프로젝터를 사용한 부분공간 반복의 수렴 이론을 수립하기.
• 현대 고성능 컴퓨팅 환경에서 높은 성능과 강력한 확장성을 보여주기.

제안 방법

• 목표 고유치를 둘러싼 복소 평면 상의 커펀브에서 수치 적분을 통해 스펙트럴 프로젝터의 유리 근사를 수행한다.
• 카우치 적분에 기반한 새로운 가속기로 부분공간 반복을 적용하여 정확한 스펙트럴 프로젝터를 수치 적분 근사로 대체한다.
• 오른쪽 및 왼쪽 고유공간을 별도 또는 동시에 처리하기 위해 일측(One-sided, R-FEAST) 및 이측(Two-sided, Bi-FEAST) 접근 방식을 모두 지원한다.
• 각 적분 노드에서 다중 우측항을 가진 선형 시스템 $\phi_k B - A$ 를 풀어 노드, 코어, 우측항 전반에 걸쳐 막대한 병렬성을 확보한다.
• 수렴한 고유쌍을 추출하기 위해 생성된 부분공간에 레일리-리츠 절차를 적용하여 정확성과 수렴성을 보장한다.
• 반복 과정 동안 부분공간 차원과 선형 시스템 크기를 일정하게 유지하도록 설계되어 있어 예측 가능하고 확장 가능한 성능을 제공한다.

실험 결과

연구 질문

• RQ1 FEAST 알고리즘이 다수의 수준의 병렬성과 수렴 성질을 유지하면서도 비에르미트 일반화 고유치문제로 일반화될 수 있는가?
• RQ2 비에르미트 경우에서 스펙트럴 프로젝터의 적분 근사가 수렴성과 고유벡터 정확도에 어떤 영향을 미치는가?
• RQ3 비에르미트 설정에서 일측(R-FEAST)과 이측(Bi-FEAST) 형식의 상대적 성능과 강건성은 어떠한가?
• RQ4 대규모 HPC 환경에서 여러 컴퓨팅 노드와 코어를 통해 알고리즘이 어떻게 확장되는가?
• RQ5 결함이 있는 고유벡터나 조르당 블록을 가진 비에르미트 행렬에 대해 유리 근사를 적분을 통해 사용할 경우 어떤 함의가 있는가?

주요 결과

• 24개 노드(각각 16개 코어)에서 강력한 확장성을 확보하여, 1노드일 경우 366초에서 24노드일 경우 24.6초로 솔루션 시간이 감소하였으며, 통신 오버헤드로 인해 효율성이 62%로 떨어졌다.
• 잘 조절된 문제에서는 Bi-FEAST가 R-FEAST보다 고유치 수렴이 더 빠르며, R-FEAST 역시 작은 잔차를 동일한 속도로 달성한다.
• 반복 과정 전반에 걸쳐 부분공간 차원과 선형 시스템 크기를 일정하게 유지하여 예측 가능하고 확장 가능한 성능을 유도한다.
• 적분 근사는 프로젝터의 고유치를 왜곡하지만 고유벡터에는 영향을 주지 않아 표준 부분공간 반복과 유사한 수렴 행동을 유지한다.
• Bi-FEAST에서는 오른쪽 및 왼쪽 고유공간을 동시에 성공적으로 계산하며, 레일리-리츠 절차가 목표로 하는 고유쌍을 정확히 추출한다.
• 이 방법은 아르놀디 또는 랭코즈와 같은 카우치 기반의 방법과 근본적으로 다르며, 고차원 행렬 모멘트가 아닌 제로-모멘트 스펙트럴 프로젝터를 사용한다.