[논문 리뷰] On matrix balancing and eigenvector computation

Rodney James, Julien Langou외 1명|arXiv (Cornell University)|2014. 01. 22.

Matrix Theory and Algorithms참고 문헌 9인용 수 3

한 줄 요약

이 논문은 LAPACK GEBAL 알고리즘의 정지 기준을 수정하여 균형화 노름 계산에 대각성분을 포함하고, 과도한 균형화를 방지하기 위해 2노름을 사용하는 새로운 방법을 제안한다. 새로운 기준은 후행 오차 안정성을 유지하면서도, 기존의 균형화가 정확도를 떨어뜨리는 경우(특히 조밀하고 잘 스케일링되지 않은 행렬에서) 고유값 정확도를 향상시킨다.

ABSTRACT

Balancing a matrix is a preprocessing step while solving the nonsymmetric eigenvalue problem. Balancing a matrix reduces the norm of the matrix and hopefully this will improve the accuracy of the computation. Experiments have shown that balancing can improve the accuracy of the computed eigenval- ues. However, there exists examples where balancing increases the eigenvalue condition number (potential loss in accuracy), deteriorates eigenvector accuracy, and deteriorates the backward error of the eigenvalue decomposition. In this paper we propose a change to the stopping criteria of the LAPACK balancing al- gorithm, GEBAL. The new stopping criteria is better at determining when a matrix is nearly balanced. Our experiments show that the new algorithm is able to maintain good backward error, while improving the eigenvalue accuracy when possible. We present stability analysis, numerical experiments, and a case study to demonstrate the benefit of the new stopping criteria.

연구 동기 및 목표

• 표준 행렬 균형화가 특정 경우에 고유값 및 고유벡터 정확도를 떨어뜨리고 후행 오차를 증가시킬 수 있다는 문제를 해결하기 위해.
• GEBAL 알고리즘의 정지 기준을 개선하기 위해 노름 계산에 대각성분을 포함시키기 위해.
• 행렬이 이미 거의 균형을 이루고 있을 경우 과도한 균형화를 방지하여 후행 오차를 유지하기 위해.
• 분석과 실험을 통해 새로운 기준이 고유값 정확도를 유지하거나 향상시키며 수치적 안정성을 떨어뜨리지 않는다는 것을 입증하기 위해.
• 조밀하고 악조건인 행렬에 대해 고유값 해법기의 신뢰성을 향상시키는 실용적인 수정을 제공하기 위해.

제안 방법

• GEBAL의 정지 기준을 수정하여 전체 행과 열의 2노름(대각성분 포함)을 사용하도록 한다.
• r과 c를 각각 비대각성분 행과 열의 2노름으로 정의하고, 균형화 인자 f = sqrt(r/c)를 계산한다.
• 전체 행과 열의 노름 기반 임계값 이하로 노름 감소가 발생할 때까지 대각성 유사변환 D^{-1}AD를 반복 적용한다.
• 추가적인 반복이 균형을 유의미하게 향상시키지 못할 경우를 탐지함으로써 과도한 균형화를 방지하는 새로운 수렴 테스트를 도입한다.
• 후행 오차 분석을 통해 새로운 기준이 고유값 분해의 후행 오차를 증가시키지 않는다는 것을 보여준다.
• 시험 행렬을 대상으로 방법을 검증하였으며, 기존의 균형화가 실패하는 헤세부르그 유사 행렬에 대한 세부 사례 연구도 수행하였다.

실험 결과

연구 질문

• RQ1 균형화 노름 계산에 대각성분을 포함시키면 후행 오차 안정성이 향상되는가?
• RQ2 수정된 정지 기준은 과도한 균형화를 방지하고 고유값 계산의 수치적 정확도를 유지할 수 있는가?
• RQ3 새로운 알고리즘은 원래 GEBAL과 비교해 고유값 및 고유벡터 정확도에서 어떤가?
• RQ4 어떤 경우에 새로운 기준이 고유값 조건수의 악화를 방지하는가?
• RQ5 악조건의 스케일링된 행렬에 대해 기존의 노름 忽시 기반 접근보다 2노름 기반 균형화 기준이 더 견고한가?

주요 결과

• 대각성분을 노름 계산에 포함시킴으로써 과도한 균형화를 방지하여 후행 오차 악화 위험을 줄였다.
• 수치 실험 결과, 기존 GEBAL이 실패하는 경우에도 수정된 알고리즘이 양호한 후행 오차를 유지하면서 고유값 정확도를 향상시켰다.
• 작은 ε를 가진 사례 연구용 행렬에서, 새로운 알고리즘은 원래 GEBAL과 달리 고유값 조건수를 증가시키지 않았다.
• 2노름 기반 균형화 기법은 기존 알고리즘이 실패하는 것으로 알려진 헤세부르그 행렬에 대해 정확도를 떨어뜨리는 방식으로 균형화를 방지한다.
• 특히 정확한 고유벡터가 필요로 하지 않을 경우, 행렬이 잘 스케일링되지 않은 경우 고유값 정확도가 향상된다.
• 후행 오차 분석 결과, 노름 감소가 작더라도 새로운 기준이 고유값 분해의 후행 오차를 증가시키지 않는다는 것이 확인되었다.