[논문 리뷰] The projected Newton-Kleinman method for the algebraic Riccati equation

Davide Palitta|arXiv (Cornell University)|2019. 01. 29.

Model Reduction and Neural Networks참고 문헌 36인용 수 9

한 줄 요약

이 논문은 대규모 대수 Riccati 방정식을 해결하기 위한 새로운 알고리즘인 투영된 뉴턴-클라인만 방법을 제안한다. 이 방법은 확장 또는 유리 Krylov 부분공간을 사용하여 단일 투영 프레임워크 내에서 비정확한 뉴턴-클라인만 반복을 통합한다. 주요 기여는 선형 탐색이 정확해지며, Riccati 잔차 노름의 단조 감소를 보장하면서도 반복 간 계산 자원을 재사용함으로써 수렴 속도를 크게 향상시키는 것이다. 이는 수렴 성질을 훼손하지 않은 채 이루어진다.

ABSTRACT

The numerical solution of the algebraic Riccati equation is a challenging task especially for very large problem dimensions. In this paper we present a new algorithm that combines the very appealing computational features of projection methods with the convergence properties of the inexact Newton-Kleinman procedure equipped with a line search. In particular, the Newton scheme is completely merged in a projection framework with a single approximation space so that the Newton-Kleinman iteration is only implicitly performed. Moreover, the line search turns out to be exact in our setting, i.e., the existence of a local minimum of the Riccati residual norm along the current search direction is guaranteed and the corresponding minimizer is chosen as step-size. This property determines a monotone decrease of the Riccati residual norm under some mild assumptions. Several numerical results are reported to illustrate the potential of our novel approach.

연구 동기 및 목표

• 해결할 해가 조밀하고 저장 및 계산에 비용이 많이 드는 대규모 대수 Riccati 방정식을 해결하는 데 발생하는 계산적 과제를 다루기 위해.
• 통일된 투영 프레임워크를 통해 반복 간 정보 재사용을 통해 비정확한 뉴턴-클라인만 방법의 효율성을 향상시키기 위해.
• 약한 가정 하에 Riccati 잔차 노름의 단조 감소를 보장하면서 수렴성을 확보하기 위해.
• 확장 또는 유리 Krylov 부분공간의 구조를 활용하면서도 암묵적으로 뉴턴-클라인만 반복을 수행하는 프레임워크를 개발하기 위해.

제안 방법

• 비정확한 뉴턴-클라인만 반복을 단일 투영 공간에 통합하며, 근사 공간으로서 확장 Krylov 또는 유리 Krylov 부분공간을 사용한다.
• 모든 뉴턴-클라인만 반복값이 동일한 부분공간에 포함되므로, 반복 간 Krylov 기저 벡터를 재사용할 수 있다.
• 선형 탐색을 정확하게 만든다: 탐색 방향을 따라 잔차 노름의 최솟값이 존재함을 보장하고 이를 스텝 사이즈로 선택한다.
• 원래의 뉴턴-클라인만 방법의 수렴 성질을 유지하면서도, 공유된 Krylov 부분공간을 통해 상당한 속도 향상을 달성한다.
• Krylov 부분공간의 정규직교 기저를 구성하기 위해 블록 아르니르 과정을 사용하며, 갈레르킨 투영을 통해 해의 저랭크 근사를 계산한다.
• 잔차 노름이 각 단계에서 정확히 최소화되며, 약한 가정 하에 모든 k에 대해 행렬 A - X_k B B^T가 안정적임을 보장한다.

실험 결과

연구 질문

• RQ1 비정확한 뉴턴-클라인만 방법을 투영 프레임워크 내에서 재구성하여 반복 간 공유된 계산 자원을 활용할 수 있는가?
• RQ2 예를 들어 확장 또는 유리 Krylov와 같이 단일 고정 근사 부분공간을 사용할 경우, 뉴턴-클라인만 방법의 수렴 성질을 유지할 수 있는가?
• RQ3 투영 프레임워크 내에서 뉴턴-클라인만 방법의 선형 탐색을 정확하게 만들 수 있는가? 이는 잔차 노름의 단조 감소를 보장한다.
• RQ4 투영된 뉴턴-클라인만 방법이 생성하는 반복값의 안정성 특성은 무엇인가?
• RQ5 기본적인 뉴턴-클라인만 및 투영 기반 방법의 구현과 비교해 볼 때, 제안된 방법은 효율성과 정확성 측면에서 어떻게 다른가?

주요 결과

• 제안된 방법에서 선형 탐색은 정확하다: 탐색 방향을 따라 Riccati 잔차 노름의 최솟값이 존재함을 보장하며, 이를 스텝 사이즈로 선택한다.
• 약한 가정 하에 잔차 노름이 단조 감소하며, 이는 강력한 수렴을 보장한다.
• 모든 뉴턴-클라인만 반복값이 동일한 투영 부분공간에 존재하여 Krylov 기저 벡터를 재사용하고 계산 비용을 감소시킨다.
• 모든 k에 대해 행렬 A - X_k B B^T가 안정적으로 유지되어 제어 이론적 맥락에서 계산된 반복값이 의미 있는 결과를 제공한다.
• 공유된 Krylov 공간 내에서 암묵적으로 뉴턴-클라인만 반복를 수행함으로써 상당한 속도 향상을 달성하면서도, 수렴 보장 조건을 훼손하지 않는다.
• 수치 실험을 통해 대규모 문제에서 이 방법의 효과성이 확인되었으며, 효율성과 강건성 모두 입증되었다.