[论文解读] A decoupled form of the structure-preserving doubling algorithm with low-rank structures

Zhen-Chen Guo, Eric King‐wah Chu+2 more|arXiv (Cornell University)|May 17, 2020

Matrix Theory and Algorithms参考文献 34被引用 4

一句话总结

本文提出了一种解耦的结构保持加倍算法（dSDA），通过将原始的三到四个耦合递推关系解耦为对解矩阵 $ H_k $ 的单一迭代递推，利用低秩结构显著降低大规模代数 Riccati 方程（AREs）的计算复杂度。该方法在保持 SDA 理论基础的同时，通过减少浮点运算次数和引入秩感知计算，显著提升了大规模问题的求解效率。

ABSTRACT

The structure-preserving doubling algorithm (SDA) is a fairly efficient method for solving problems closely related to Hamiltonian (or Hamiltonian-like) matrices, such as computing the required solutions to algebraic Riccati equations. However, for large-scale problems in $\mathbb{C}^n$ (also $\mathbb{R}^n$), the SDA with an $O(n^3)$ computational complexity does not work well. In this paper, we propose a new decoupled form of the SDA (we name it as dSDA), building on the associated Krylov subspaces thus leading to the inherent low-rank structures. Importantly, the approach decouples the original two to four iteration formulae. The resulting dSDA is much more efficient since only one quantity (instead of the original two to four) is computed iteratively. For large-scale problems, further efficiency is gained from the low-rank structures. This paper presents the theoretical aspects of the dSDA. A practical algorithm dSDA t with truncation and many illustrative numerical results will appear in a second paper.

研究动机与目标

• 为解决在 $ \mathbb{R}^n $ 或 $ \mathbb{C}^n $ 中大规模代数 Riccati 方程（AREs）的古典结构保持加倍算法（SDA）所面临的高计算成本问题。
• 克服原始 SDA 所具有的 $ \mathcal{O}(n^3) $ 复杂度，该复杂度限制了其在大 $ n $ 情况下的效率。
• 开发一种新算法，将 SDA 中多个耦合递推关系解耦为对解矩阵 $ H_k $ 的单一迭代递推。
• 利用解和迭代过程中固有的低秩结构，进一步降低计算成本和内存使用。
• 为一种实用的截断变体（dSDA t）奠定理论基础，以控制解的秩并提升运行时效率。

提出的方法

• 提出 SDA 的解耦形式（dSDA），仅迭代计算 $ H_k $，无需同时计算 $ A_k $、$ E_k $、$ F_k $ 和 $ G_k $。
• 通过 Krylov 子空间投影推导 dSDA，其自然导致迭代过程中出现低秩结构。
• 利用 Sherman-Morrison-Woodbury 公式高效求逆迭代中出现的大规模结构化矩阵。
• 采用加倍机制在 $ k = 2^j $ 处计算迭代，跳过中间步骤以加速收敛。
• 将原始的三重或四重递推关系解耦为对 $ H_k $ 的单一递推，减少每轮迭代的矩阵运算次数。
• 依赖原始 SDA 的理论收敛性和结构保持特性，同时提升计算可扩展性。

实验结果

研究问题

• RQ1 能否通过解耦 SDA 的多个耦合递推关系，重新表述经典 SDA 以降低大规模 AREs 的计算复杂度？
• RQ2 如何利用解和迭代中的低秩结构来降低 SDA 的 $ \mathcal{O}(n^3) $ 成本？
• RQ3 解耦对算法的收敛行为和数值稳定性有何影响？
• RQ4 对于大规模问题，新 dSDA 与原始 SDA 在效率和精度方面相比如何？
• RQ5 Krylov 子空间在 dSDA 框架中如何实现低秩近似？

主要发现

• dSDA 将需迭代的变量数从两到四个减少为仅一个（$ H_k $），显著降低计算开销。
• 通过消除每轮迭代中计算多个矩阵所导致的 $ 2^k $ 因子，实现更低的浮点运算次数。
• 在钢坯冷却模型（$ n = 1357 $）上的数值结果表明，dSDA 在 9 次迭代后计算出稳定解，相对残差为 $ 7.614 \times 10^{-15} $，数值秩为 191。
• 尽管 dSDA 在理论上可行，但其 9 次迭代耗时 60.156 秒，远超原始 SDA 的 16.194 秒，表明由于基向量无截断增长导致效率低下。
• 该实例表明，dSDA 会产生大量无意义的基向量，凸显了在实际实现中进行截断的必要性。
• dSDA 在理论上是合理且高效的，但其实际效率取决于实施截断以控制秩并避免冗余计算。