[论文解读] A Riemannian approach to low-rank algebraic Riccati equations

Bamdev Mishra, Bart Vandereycken|arXiv (Cornell University)|Dec 17, 2013

Sparse and Compressive Sensing Techniques参考文献 9被引用 4

一句话总结

该论文提出了一种黎曼优化方法，通过在对称半正定矩阵上交替进行固定秩优化与一种新颖的黎曼信赖域算法及秩一更新，来计算代数 Riccati 方程的低秩解。该方法采用一种量身定制的黎曼度量，提升了收敛性，并在较低秩下实现了更低的残差误差，优于标准求解器。

ABSTRACT

We propose a Riemannian optimization approach for computing low-rank solutions of the algebraic Riccati equation. The scheme alternates between fixed-rank optimization and rank-one updates. The fixed-rank optimization is on the set of fixed-rank symmetric positive definite matrices which is endowed with a particular Riemannian metric (and geometry) that is tuned to the structure of the objective function. We specifically discuss the implementation of a Riemannian trust-region algorithm that is potentially scalable to large-scale problems. The rank-one update is based on a descent direction that ensures a monotonic decrease of the cost function. Preliminary numerical results on standard small-scale benchmarks show that we obtain solutions to the Riccati equation at lower ranks than the standard approaches.

研究动机与目标

• 为解决大规模代数 Riccati 方程中标准求解器计算不可行的问题，其计算复杂度为 O(n³)。
• 计算低秩、对称半正定解，此类解在控制理论与模型降阶中具有结构与数值上的优势。
• 开发一种可扩展、保持结构的优化框架，在维持低秩的同时最小化 Riccati 方程的残差误差。
• 通过设计一种针对问题的黎曼度量，将 Hessian 信息作为预条件子，以提升收敛性与解的质量。

提出的方法

• 将问题重新表述为在满足半正定性与固定秩 r 的约束下，最小化 Riccati 方程残差的 Frobenius 范数。
• 在固定秩 r 的对称半正定矩阵流形上执行固定秩优化，该流形配备一种针对代价函数 Hessian 结构量身定制的新型黎曼度量。
• 为固定秩子问题实现黎曼信赖域算法，确保超线性收敛，并在最优解附近具有可证明的局部二次收敛性。
• 通过使用单调减少残差误差的下降方向，逐步进行秩一更新以增加秩。
• 黎曼度量定义为基于 Hessian 的对称正定部分的加权 L2 范数，作为预条件子以加速收敛。
• 算法在固定秩的信赖域优化与秩增加更新之间交替进行，收敛至完整问题的临界点。

实验结果

研究问题

• RQ1 具有定制度量的黎曼优化框架是否能在最小化低秩代数 Riccati 方程残差误差方面优于标准求解器？
• RQ2 黎曼度量的选择如何影响在低秩对称半正定矩阵上固定秩优化的收敛速度与数值稳定性？
• RQ3 固定秩优化与秩一更新交替方案是否能在比现有低秩求解器（如 EKSM 或 MATLAB 的 ARE）更低的秩下实现更低的残差误差？
• RQ4 基于 Hessian 的黎曼度量作为预条件子，对信赖域方法在该上下文中的收敛行为有何影响？
• RQ5 当按顺序遍历不断增加的秩时，所提方法在解质量与计算效率之间的权衡如何？

主要发现

• 在 100×100 测试实例中，与标准度量相比，所提出的带调优度量的黎曼信赖域算法显著加快了收敛速度，减少了黎曼联络计算次数。
• 在三个基准算例（n=400, 500）中，所提方案在较低秩下实现的相对残差误差低于 MATLAB 的 ARE 函数与 EKSM 算法。
• 对于示例 1（n=400），所提方法在秩 10 时即实现残差误差低于 10⁻⁷，而 MATLAB 的 ARE 需要更高秩才能达到类似精度。
• 对于示例 3（n=500，来自热方程的三对角 A 矩阵），该方法在所有测试秩下均保持更低的残差误差，展现出对问题结构的鲁棒性。
• 该方案以超线性速度收敛至完整问题的临界点，秩增加的外层循环使解的秩与残差误差得到更紧密的控制。
• 尽管解的质量更优，但由于需顺序遍历秩，该方法的计算成本高于 EKSM，表明在精度与速度之间存在权衡。