[論文レビュー] A Riemannian approach to low-rank algebraic Riccati equations

Bamdev Mishra, Bart Vandereycken|arXiv (Cornell University)|Dec 17, 2013

Sparse and Compressive Sensing Techniques参考文献 9被引用数 4

ひとこと要約

本稿では、代数リカッチ方程式の低ランク解を計算するためのリーマン最適化手法を提案する。この手法は、対称正定値行列上の固定ランク最適化と、新規のリーマン信頼領域法およびランク1更新を交互に適用する。使用されるリーマン計量は、目的関数のヘッセ構造に合わせて調整されており、収束性を向上させ、標準的なソルバーよりも低いランクでより小さい残差誤差を達成する。

ABSTRACT

We propose a Riemannian optimization approach for computing low-rank solutions of the algebraic Riccati equation. The scheme alternates between fixed-rank optimization and rank-one updates. The fixed-rank optimization is on the set of fixed-rank symmetric positive definite matrices which is endowed with a particular Riemannian metric (and geometry) that is tuned to the structure of the objective function. We specifically discuss the implementation of a Riemannian trust-region algorithm that is potentially scalable to large-scale problems. The rank-one update is based on a descent direction that ensures a monotonic decrease of the cost function. Preliminary numerical results on standard small-scale benchmarks show that we obtain solutions to the Riccati equation at lower ranks than the standard approaches.

研究の動機と目的

• 大規模代数リカッチ方程式における標準的ソルバの計算不能性（スケーリング O(n³)）に対処すること。
• 制御理論およびモデル低次元化において構造的にかつ数値的に有利な、低ランクかつ対称正定値解を計算すること。
• 低ランクを維持しながらリカッチ方程式の残差誤差を最小化するスケーラブルで構造を保存する最適化フレームワークを構築すること。
• ヘッセ情報を利用した事前条件子として機能する問題特有のリーマン計量を設計することで、収束性と解の品質を向上させること。

提案手法

• 問題は、正定値性と固定ランク r の制約の下で、リカッチ方程式の残差のフロベニウスノルムを最小化する形に再定式化する。
• 固定ランク最適化は、目的関数のヘッセ構造に合わせて調整された新規のリーマン計量を備えた、ランク r の対称正定値行列の多様体上で実行される。
• 固定ランク部分問題に対してリーマン信頼領域法が実装され、最適解の近傍で保証された局所的2次収束を達成する超線形収束を実現する。
• 下降方向を用いたランク1更新により、ランクが段階的に増加し、残差誤差が単調に減少する。
• リーマン計量は、ヘッセ行列の対称正定値部を用いた重み付き L2 ノルムとして定義され、収束を加速するための事前条件子として機能する。
• 信頼領域最適化（固定ランク）とランク増加更新を交互に繰り返し、全問題の臨界点に収束する。

実験結果

リサーチクエスチョン

• RQ1 調整された計量を用いたリーマン最適化フレームワークは、低ランク代数リカッチ方程式の残差誤差最小化において、標準的ソルバーより優れているか？
• RQ2 リーマン計量の選択が、低ランク対称正定値行列上での固定ランク最適化における収束速度と数値的安定性に与える影響は何か？
• RQ3 固定ランク最適化とランク1更新を交互に適用するスケームは、既存の低ランクソルバ（例：EKSM や MATLAB の ARE）と比較して、より低いランクでより小さい残差誤差を達成できるか？
• RQ4 ヘッセ行列に基づくリーマン計量による事前条件子が、この文脈における信頼領域法の収束行動に与える影響は何か？
• RQ5 順次的にランクを増加させながら走査する際、提案手法は解の品質と計算効率の両面でどのように比較されるか？

主な発見

• 100×100のテスト例において、調整済み計量を用いた提案されたリーマン信頼領域法は、標準計量に比べてリーマン接続計算回数を大幅に削減し、収束が著しく速い。
• 3つのベンチマーク例（n=400, 500）において、提案手法は MATLAB の ARE 機能や EKSM アルゴリズムよりも、より低いランクでより小さい相対的残差誤差を達成した。
• 例1（n=400）では、提案手法がランク10で10⁻⁷未満の残差誤差を達成したのに対し、MATLAB の ARE は同等の精度に到達するためにはより高いランクを必要とした。
• 例3（n=500、熱方程式に由来する三重対角行列 A）では、全テストランクで提案手法がより小さい残差誤差を維持した。これは、問題構造に対して高いロバストネスを示している。
• ランク増加の外ループにより、全問題の臨界点への超線形収束が達成され、解のランクと残差誤差のより厳密な制御が可能になった。
• 優れた解の品質にもかかわらず、逐次的なランク走査のため、EKSM よりも計算コストが高くなる。これは、精度と速度のトレードオフを示している。