[논문 리뷰] A Riemannian approach to low-rank algebraic Riccati equations

Bamdev Mishra, Bart Vandereycken|arXiv (Cornell University)|2013. 12. 17.

Sparse and Compressive Sensing Techniques참고 문헌 9인용 수 4

한 줄 요약

이 논문은 대수 Riccati 방정식의 저질서 해를 구하는 데 있어 대칭 양정준 행렬 위에서 고정 질서 최적화와 새로운 리emannian 신뢰영역 알고리즘, 질서 상승 갱신을 번갈아 적용하는 리emannian 최적화 접근법을 제안한다. 이 방법은 비용 함수의 헤시안 행렬의 구조를 반영하여 조정된 리emannian 계량을 사용하여 수렴성을 향상시키고, 표준 솔버에 비해 낮은 질서에서 더 낮은 잔차 오차를 달성한다.

ABSTRACT

We propose a Riemannian optimization approach for computing low-rank solutions of the algebraic Riccati equation. The scheme alternates between fixed-rank optimization and rank-one updates. The fixed-rank optimization is on the set of fixed-rank symmetric positive definite matrices which is endowed with a particular Riemannian metric (and geometry) that is tuned to the structure of the objective function. We specifically discuss the implementation of a Riemannian trust-region algorithm that is potentially scalable to large-scale problems. The rank-one update is based on a descent direction that ensures a monotonic decrease of the cost function. Preliminary numerical results on standard small-scale benchmarks show that we obtain solutions to the Riccati equation at lower ranks than the standard approaches.

연구 동기 및 목표

• 대규모 대수 Riccati 방정식의 경우 표준 솔버의 계산 비용이 O(n³)로 인해 계산적으로 불가능한 문제를 해결하기 위해.
• 제어 이론과 모델 순서 축소에서 구조적이고 수치적으로 유리한 저질서, 대칭 양정준 해를 계산하기 위해.
• 낮은 질서를 유지하면서 Riccati 방정식의 잔차 오차를 최소화하는 가시적이고 구조를 유지하는 최적화 프레임워크를 개발하기 위해.
• 헤시안 정보를 사전 조정자로 활용하는 문제에 특화된 리emannian 계량을 설계하여 수렴성과 해의 품질을 향상시키기 위해.

제안 방법

• 문제는 양정준성과 고정 질서 r를 조건으로 하여 Riccati 방정식 잔차의 프로베니우스 노름을 최소화하는 것으로 재정의된다.
• 고정 질서 최적화는 비용 함수의 헤시안 행렬의 구조를 반영하여 조정된 새로운 리emannian 계량을 갖춘 질서-r 대칭 양정준 행렬의 다양체 위에서 수행된다.
• 고정 질서 하위문제에 대해 리emannian 신뢰영역 알고리즘이 구현되어 있으며, 최적점 근처에서 증명 가능한 국소 2차 수렴성을 포함한 초선형 수렴을 보장한다.
• 내림차순 방향을 사용한 질서 상승 갱신을 통해 질서가 점진적으로 증가하며, 잔차 오차가 단조 감소한다.
• 리emannian 계량은 헤시안의 대칭 양정준 부분을 사용한 가중 L2 노름으로 정의되며, 수렴을 가속화하는 사전 조정자 역할을 한다.
• 신뢰영역 최적화와 질서 증가 갱신을 번갈아 수행하여 전체 문제의 임계점을 수렴한다.

실험 결과

연구 질문

• RQ1 문제에 특화된 리emannian 계량을 사용하는 리emannian 최적화 프레임워크가 저질서 대수 Riccati 방정식의 잔차 오차 최소화에서 표준 솔버를 능가할 수 있는가?
• RQ2 리emannian 계량의 선택이 저질서 대칭 양정준 행렬에서의 고정 질서 최적화에서 수렴 속도와 수치적 안정성에 어떤 영향을 미치는가?
• RQ3 고정 질서 최적화와 질서 상승 갱신을 번갈아 적용하는 이중 구조가 EKSM이나 MATLAB의 ARE와 같은 기존 저질서 솔버보다 낮은 질서에서 더 낮은 잔차 오차를 달성할 수 있는가?
• RQ4 헤시안 기반 리emannian 계량을 통한 사전 조정이 이 맥락에서 신뢰영역 방법의 수렴 행동에 어떤 영향을 미치는가?
• RQ5 순차적으로 증가하는 질서를 따라 이동할 때 제안된 방법이 해의 품질과 계산 효율성 측면에서 어떻게 비교되는가?

주요 결과

• 조정된 계량을 사용한 제안된 리emannian 신뢰영역 알고리즘은 100×100 테스트 인스턴스에서 표준 계량에 비해 리emannian 접속 계산 횟수를 크게 줄이며 훨씬 더 빠른 수렴을 달성한다.
• 세 가지 벤치마크 예제(n=400, 500)에서 제안된 방법은 MATLAB의 ARE 기능과 EKSM 알고리즘보다 낮은 질서에서 더 낮은 상대 잔차 오차를 달성한다.
• 예제 1(n=400)에서 제안된 방법은 질서 10에서 잔차 오차가 10⁻⁷ 이하로 유지되며, MATLAB의 ARE는 유사한 정확도에 도달하기 위해 더 높은 질서가 필요하다.
• 예제 3(n=500, 열화 방정식에서 유도된 삼중대각 행렬 A)에서 방법은 모든 테스트 질서에서 낮은 잔차 오차를 유지하며 문제의 구조에 대한 강건성을 입증한다.
• 수렴은 초선형으로 전체 문제의 임계점으로 향하며, 질서 증가 외부 루프 덕분에 해의 질서와 잔차 오차를 더 엄격하게 제어할 수 있다.
• 우수한 해 품질에도 불구하고, 순차적 질서 순회 방식으로 인해 EKSM보다 계산 비용이 더 높아 정확도와 속도 사이의 상충 관계가 존재한다.