[논문 리뷰] Stagnation of block GMRES and its relationship to block FOM

Kirk M. Soodhalter|arXiv (Cornell University)|2014. 11. 28.

Matrix Theory and Algorithms참고 문헌 32인용 수 5

한 줄 요약

이 논문은 블록 GMRES의 정체 현상과 그 원인을 분석하고, 블록 FOM과의 관계를 규명하여, 정체가 제j번째 블록 아르니올리 벡터의 열공간과 최소 잔여항공간의 교차에 의해 결정됨을 보여준다. 주요 기여는 정체성과 선형 종속성으로 인한 붕괴가 발생할 경우에도 블록 켈러 방식의 정체 현상을 이해하는 데 유용한 일반화된 프레임워크를 제안한 것이다. 이는 병행성과 현실적인 문제에 대한 수치적 검증을 통해 입증되었다.

ABSTRACT

We analyze the the convergence behavior of block GMRES and characterize the phenomenon of stagnation which is then related to the behavior of the block FOM method. We generalize the block FOM method to generate well-defined approximations in the case that block FOM would normally break down, and these generalized solutions are used in our analysis. This behavior is also related to the principal angles between the column-space of the previous block GMRES residual and the current minimum residual constraint space. At iteration $j$, it is shown that the proper generalization of GMRES stagnation to the block setting relates to the columnspace of the $j$th block Arnoldi vector. Our analysis covers both the cases of normal iterations as well as block Arnoldi breakdown wherein dependent basis vectors are replaced with random ones. Numerical examples are given to illustrate what we have proven, including a small application problem to demonstrate the validity of the analysis in a less pathological case.

연구 동기 및 목표

• 다중 우변을 고려한 블록 GMRES의 정체 행동을 규명하는 것.
• 기존의 GMRES-FOM 관계를 블록 설정으로 확장하여, 붕괴 또는 근접 붕괴 상황에서도 적용 가능하도록 하는 것.
• 블록 잔여항공간에서 선형 종속성이 발생할 경우를 대비해 종속된 벡터를 무작위 벡터로 대체함으로써 블록 FOM을 일반화하는 것.
• 블록 GMRES의 정체 현상과 켈러 부분공간 간의 주요 각도 사이의 기하학적 연결 고리를 설정하는 것.
• 이론적 결과를 병행성 및 현실적인 적용 문제를 포함한 수치적 예제를 통해 검증하는 것.

제안 방법

• 의존성에 의해 발생하는 붕괴 상황에서도 잘 정의된 근사해를 확보하기 위해, 종속된 기저 벡터를 무작위로 대체함으로써 블록 FOM을 일반화한다.
• 블록 아르니올리 과정을 사용하여 켈러 부분공간을 구성하고, 제j번째 블록 GMRES 보정 공간을 최소 잔여항공간으로 정의한다.
• 제j번째 블록 아르니올리 벡터의 열공간과 제j번째 블록 GMRES 보정 공간 간의 교차 차원을 분석함으로써 정체 현상을 분석한다.
• 주요 각도와 코사인/사인 분해(예: CS-분해)를 사용하여 부분공간 간 기하학적 관계를 정량화한다.
• 반복 과정 중에 사인과 코사인을 효율적으로 계산하기 위해 직교 변환을 도입하여 정체 지표를 실시간으로 모니터링할 수 있도록 한다.
• 비용을 최소한도로 유지하면서도 블록 GMRES 반복 과정과 동시에 블록 FOM 반복값을 계산할 수 있는 변형 블록 GMRES를 구현하였으며, 이는 [17]의 전략을 따르고 있다.

실험 결과

연구 질문

• RQ1 다중 우변이 존재할 경우, 블록 GMRES의 정체 현상은 단일 벡터 GMRES의 정체 현상과 어떻게 다를까?
• RQ2 블록 GMRES의 정체 현상을 결정짓는 정확한 기하학적 조건은 무엇이며, 이는 블록 FOM 방법과 어떻게 관련이 있는가?
• RQ3 블록 잔여항공간에서 선형 종속성이 발생할 경우, 블록 FOM는 어떻게 일반화되어야 하며, 이를 통해 붕괴 상황에서도 잘 정의된 해를 유지할 수 있는가?
• RQ4 켈러 부분공간 간의 주요 각도는 어떻게 블록 GMRES의 정체 현상을 특성화하는 데 기여하는가?
• RQ5 제안된 분석은 혼합 행렬의 특성을 가진 병행성 또는 현실적인 문제에 대해서도 검증 가능할까?

주요 결과

• 블록 GMRES의 정체 현상은 단지 반복해의 각 열의 정체가 아니라, 제j번째 블록 아르니올리 벡터의 열공간과 제j번째 블록 GMRES 보정 공간 간의 교차 차원에 의해 결정된다.
• 일반화된 블록 FOM 방법은 붕괴 상황에서도 잘 정의되어 있어 수렴 행동의 일관성 있는 분석을 가능하게 한다.
• 수치 실험 결과, 블록 아르니올리 벡터와 잔여항공간 간의 주요 각도의 코사인이 0이 되는 경우에 정체 현상이 발생하며, 이는 잔여항의 노름 향상이 없는 것을 의미한다.
• 블록 대각 행렬(sherman4 + shift 행렬)을 갖는 현실적인 테스트 케이스에서, 한 블록은 거의 정체 상태에 머물러 있었고 다른 블록은 수렴하는 것으로 나타나, 이는 이론적 예측과 일치한다.
• 직교 변환을 통해 계산된 부분공간 간의 각도 사인 값은 정체 현상을 신뢰할 수 있는 지표를 제공하며, 반복 과정 중에 효율적으로 계산할 수 있다.
• 제안된 프레임워크는 블록 GMRES의 반복 과정에서 추가 비용을 최소한도로 유지하면서도 블록 FOM 반복값을 동시에 계산할 수 있도록 하여, 수렴 행동의 실시간 모니터링을 가능하게 한다.