[논문 리뷰] FEAST as Subspace Iteration Accelerated by Approximate Spectral Projection

Ping Tang, Eric Polizzi|arXiv (Cornell University)|2013. 02. 02.

Matrix Theory and Algorithms인용 수 4

한 줄 요약

이 논문은 FEAST 고유값 알고리즘에 대한 첫 번째 엄밀한 수렴 분석을 제공하며, 스펙트럴 프로젝터의 유리함수 근사에 의해 가속화된 부분공간 반복법으로서 FEAST가 작동함을 보여준다. 분석을 통해 FEAST가 근사 스펙트럴 프로젝터에 의존함에도 불구하고 수렴함을 증명하고, 헤르미트 고유값 문제를 해결하는 데 있어 그 강건성과 병렬 효율성에 대한 이론적 기초를 확립한다.

ABSTRACT

The calculation of a segment of eigenvalues and their corresponding eigenvectors of a Hermitian matrix or matrix pencil has many applications. A new density-matrix-based algorithm has been proposed recently and a software package FEAST has been developed. The density-matrix approach allows FEAST's implementation to exploit a key strength of modern computer architectures, namely, multiple levels of parallelism. Consequently, the software package has been well received, especially in the electronic structure community. Nevertheless, theoretical analysis of FEAST has lagged. For instance, the FEAST algorithm has not been proven to converge. This paper offers a detailed numerical analysis of FEAST. In particular, we show that the FEAST algorithm can be understood as an accelerated subspace iteration algorithm in conjunction with the Rayleigh-Ritz procedure. The novelty of FEAST lies in its accelerator which is a rational matrix function that approximates the spectral projector onto the eigenspace in question. Analysis of the numerical nature of this approximate spectral projector and the resulting subspaces generated in the FEAST algorithm establishes the algorithm's convergence. This paper shows that FEAST is resilient against rounding errors and establishes properties that can be leveraged to enhance the algorithm's robustness. Finally, we propose an extension of FEAST to handle non-Hermitian problems and suggest some future research directions.

연구 동기 및 목표

• FEAST 고유값 알고리즘에 대한 엄밀한 이론적 기초를 제공함으로써, 이전까지 공식적인 수렴 분석이 부족했던 문제를 해결한다.
• FEAST의 작동 원리를 근사 스펙트럴 프로젝터에 의해 가속화된 부분공간 반복법로 설명하여 그 수치적 행동을 명확히 한다.
• 반복 오차에 대한 FEAST의 내성적 저항성과 알고리즘의 강건성을 높이는 성질을 분석한다.
• FEAST의 이론적 프레임워크를 비헤르미트 고유값 문제로 확장하여 향후 연구 방향을 제안한다.

제안 방법

• FEAST를 각 반복 단계에서 목표 고유공간에 대한 스펙트럴 프로젝터를 근사하는 유리함수 행렬 함수로 가속화된 부분공간 반복 방법으로 재구성한다.
• 각 단계에서 생성된 부분공간에서 라일레이-리츠 절차를 사용하여 라일레이-리츠 쌍을 추출함으로써 최적의 라일레이-리츠 벡터와 값을 보장한다.
• 스펙트럴 프로젝터의 유리함수 근사의 수치적 성질을 분석하여, 이가 원하는 고유공간을 효과적으로 포착함을 보여준다.
• 표준 가정 하에 FEAST가 생성하는 부분공간이 목표 불변 부분공간에 수렴함을 증명함으로써 수렴성을 확립한다.
• 역행 오차와 교란 영향을 분석하여 유한 정밀도 산술 하에서도 알고리즘이 안정적으로 유지됨을 보여준다.
• 스펙트럴 프로젝터 근사를 복소수 경로와 유리함수로 변형하여 비헤르미트 문제에 대한 FEAST의 확장을 제안한다.

실험 결과

연구 질문

• RQ1 FEAST 알고리즘이 근사 스펙트럴 프로젝터에 의존함에도 불구하고 헤르미트 고유값 문제에 대해 수렴하는가?
• RQ2 스펙트럴 프로젝터의 유리함수 근사는 부분공간 반복의 수렴 속도와 안정성에 어떤 영향을 미치는가?
• RQ3 근사 스펙트럴 프로젝터의 어떤 성질이 유한 정밀도 계산에서 반복 오차에 대한 강건성을 보장하는가?
• RQ4 FEAST의 이론적 프레임워크를 비헤르미트 고유값 문제로 확장할 수 있는가?
• RQ5 유리함수 가속기와 함께 부분공간 반복으로서 FEAST를 해석함으로써 도출할 수 있는 이론적 통찰은 무엇인가?

주요 결과

• FEAST가 스펙트럴 프로젝터의 유리함수 근사에 의해 가속된 부분공간 반복으로서 수렴함을 증명함으로써 오랫동안 남아있던 이론적 공백을 해결하였다.
• 근사 스펙트럴 프로젝터의 유리한 조건과 라일레이-리츠 절차 덕분에 반복 오차에 강건함을 입증하였다.
• 수렴 속도는 스펙트럴 프로젝터의 유리함수 근사의 질에 의해 결정되며, 더 나은 근사가 더 빠른 수렴을 이끈다.
• 부분공간 반복 프레임워크는 실용적 구현에서 관측된 FEAST의 강건성과 병렬 확장성의 원리를 설명한다.
• 비헤르미트 문제로의 확장은 이론적으로 타당하며, 유리함수 크릴로프 방법 분야의 새로운 연구 방향을 제안한다.
• 분석을 통해 스펙트럴 프로젝터의 보다 나은 근사와 개선된 오차 제어를 통한 FEAST의 강건성 향상 가능성을 제공한다.