[论文解读] The projected Newton-Kleinman method for the algebraic Riccati equation

Davide Palitta|arXiv (Cornell University)|Jan 29, 2019

Model Reduction and Neural Networks参考文献 36被引用 9

一句话总结

本文提出了一种名为投影牛顿-克莱曼方法的新算法，通过在扩展或有理克雷洛夫子空间的单一投影框架内整合非精确牛顿-克莱曼迭代，用于求解大规模代数黎卡蒂方程。主要贡献在于线搜索变为精确——保证黎卡蒂残差范数单调递减——同时在迭代间重用计算资源，显著加速收敛过程，且不损失收敛特性。

ABSTRACT

The numerical solution of the algebraic Riccati equation is a challenging task especially for very large problem dimensions. In this paper we present a new algorithm that combines the very appealing computational features of projection methods with the convergence properties of the inexact Newton-Kleinman procedure equipped with a line search. In particular, the Newton scheme is completely merged in a projection framework with a single approximation space so that the Newton-Kleinman iteration is only implicitly performed. Moreover, the line search turns out to be exact in our setting, i.e., the existence of a local minimum of the Riccati residual norm along the current search direction is guaranteed and the corresponding minimizer is chosen as step-size. This property determines a monotone decrease of the Riccati residual norm under some mild assumptions. Several numerical results are reported to illustrate the potential of our novel approach.

研究动机与目标

• 为解决大规模代数黎卡蒂方程的计算挑战，其中解是稠密的且存储与计算成本高昂。
• 通过统一的投影框架在迭代间重用信息，提升非精确牛顿-克莱曼方法的效率。
• 在较弱假设下确保收敛性，并保证黎卡蒂残差范数单调递减。
• 构建一个隐式执行牛顿-克莱曼迭代的框架，同时利用扩展或有理克雷洛夫子空间的结构特性。

提出的方法

• 该方法将非精确牛顿-克莱曼迭代嵌入单一投影空间中，使用扩展克雷洛夫或有理克雷洛夫子空间作为近似空间。
• 所有牛顿-克莱曼迭代均被限制在同一个子空间内，从而实现在迭代间重用克雷洛夫基向量。
• 线搜索被精确化：沿搜索方向的残差范数最小值被保证存在，并选为步长。
• 该算法保持了原始牛顿-克莱曼方法的收敛特性，同时通过共享克雷洛夫子空间实现显著加速。
• 该方法使用块阿诺德过程构建克雷洛夫子空间的正交基，并通过伽辽金投影计算解的低秩近似。
• 在每一步中精确最小化残差范数，且在较弱假设下，算法确保矩阵 A - X_k B B^T 对所有 k 均保持稳定。

实验结果

研究问题

• RQ1 非精确牛顿-克莱曼方法能否在投影框架内重新表述，以利用迭代间的共享计算资源？
• RQ2 使用单一固定近似空间（如扩展或有理克雷洛夫子空间）是否能保持牛顿-克莱曼方法的收敛特性？
• RQ3 在投影框架内，牛顿-克莱曼方法的线搜索能否实现精确化，以确保残差范数单调递减？
• RQ4 投影牛顿-克莱曼方法生成的迭代具有何种稳定性特性？
• RQ5 与标准的牛顿-克莱曼方法及基于投影的方法实现相比，所提方法在效率和精度方面表现如何？

主要发现

• 所提方法中的线搜索是精确的：沿搜索方向的黎卡蒂残差范数最小值被保证存在，并被选为步长。
• 在较弱假设下，残差范数单调递减，确保了鲁棒收敛。
• 所有牛顿-克莱曼迭代均位于同一投影子空间中，从而实现克雷洛夫基向量的重用，降低计算成本。
• 矩阵 A - X_k B B^T 对所有 k 均保持稳定，确保计算出的迭代在控制理论背景下具有实际意义。
• 通过在共享克雷洛夫空间内隐式执行牛顿-克莱曼迭代，该方法实现了显著加速，且不损失收敛保证。
• 数值实验在大规模问题上验证了该方法的有效性，表现出高效性与鲁棒性。