[論文レビュー] A decoupled form of the structure-preserving doubling algorithm with low-rank structures

Zhen-Chen Guo, Eric King‐wah Chu+2 more|arXiv (Cornell University)|May 17, 2020

Matrix Theory and Algorithms参考文献 34被引用数 4

ひとこと要約

本稿では、元の3〜4重に結合された再帰を、解行列 $ H_k $ の単一の反復再帰に分離することで、大規模な代数リカチ方程式に対する計算複雑度を低減する、分離型構造保存型二重化アルゴリズム（dSDA）を提案する。低ランク構造を活用することで効率性が向上する。この手法はSDAの理論的基盤を維持しつつ、フロップ数の削減とランクに配慮した計算により、大規模問題に対して顕著な高速化を実現する。

ABSTRACT

The structure-preserving doubling algorithm (SDA) is a fairly efficient method for solving problems closely related to Hamiltonian (or Hamiltonian-like) matrices, such as computing the required solutions to algebraic Riccati equations. However, for large-scale problems in $\mathbb{C}^n$ (also $\mathbb{R}^n$), the SDA with an $O(n^3)$ computational complexity does not work well. In this paper, we propose a new decoupled form of the SDA (we name it as dSDA), building on the associated Krylov subspaces thus leading to the inherent low-rank structures. Importantly, the approach decouples the original two to four iteration formulae. The resulting dSDA is much more efficient since only one quantity (instead of the original two to four) is computed iteratively. For large-scale problems, further efficiency is gained from the low-rank structures. This paper presents the theoretical aspects of the dSDA. A practical algorithm dSDA t with truncation and many illustrative numerical results will appear in a second paper.

研究の動機と目的

• 大規模な代数リカチ方程式（AREs）における古典的構造保存型二重化アルゴリズム（SDA）の高い計算コストを解消すること。
• 元のSDAが有する $ \mathcal{O}(n^3) $ の複雑度を克服し、$ n $ が大きい場合の効率性を向上させること。
• SDAに内在する複数の結合された再帰を、解行列 $ H_k $ の単一の反復再帰に分離する新しいアルゴリズムを開発すること。
• 解および反復値に内在する低ランク構造を活用して、計算コストとメモリ使用量をさらに削減すること。
• 解のランクを制御し、実行時間の効率を向上させる実用的で断片化された変種（dSDA t）の理論的基盤を構築すること。

提案手法

• SDAの分離形（dSDA）を提案し、$ A_k $, $ E_k $, $ F_k $, $ G_k $ を同時に計算する必要を排除して、$ H_k $ のみを反復的に計算する。
• Krylov部分空間の射影を用いてdSDAを導出することで、反復値に自然に低ランク構造が生じる。
• 反復で生じる大きな構造的行列の逆行列を効率的に計算するために、Sherman-Morrison-Woodburyの公式を用いる。
• 二重化機構を用いて $ k = 2^j $ の点での反復値を計算し、中間ステップを飛ばして収束を加速する。
• 元の3項または4項再帰を、$ H_k $ の単一再帰に分離することで、1反復あたりの行列演算数を削減する。
• 元のSDAの理論的収束性および構造保存性に依拠しつつ、計算スケーラビリティを向上させる。

実験結果

リサーチクエスチョン

• RQ1 古典的SDAは、複数の結合された再帰を分離することで、大規模AREsにおける計算複雑度を低減できるか？
• RQ2 解および反復値に内在する低ランク構造は、SDAの $ \mathcal{O}(n^3) $ のコストをどのように低減できるか？
• RQ3 分離がアルゴリズムの収束特性および数値的安定性に与える影響は何か？
• RQ4 大規模問題において、新しいdSDAは元のSDAと比べてどの程度効率的で正確か？
• RQ5 Krylov部分空間は、dSDAフレームワーク内での低ランク近似をどのように可能にするか？

主な発見

• dSDAは、反復量を2〜4つから1つ（$ H_k $）に削減することで、計算オーバーヘッドを顕著に低減する。
• 各反復で複数の行列を計算するに伴う $ 2^k $ 要因を排除することで、フロップ数を削減する。
• 鋼材プロファイル冷却モデル（$ n = 1357 $）における数値結果から、dSDAは9反復後に安定化解を計算し、相対残差が $ 7.614 \times 10^{-15} $、数値的ランクが191を達成した。
• 実行可能性は確認されたが、dSDAは9反復で60.156秒を要したのに対し、元のSDAは16.194秒であったため、基底ベクトルの非断片化的増大により非効率であることが示された。
• この例は、dSDAが多くの無視可能な基底ベクトルを生成することを示しており、実装上では断片化の必要性を強調している。
• dSDAは理論的に妥当で効率的であるが、実用的効率性はランクを制御し、余分な計算を回避するための断片化の実装に依存する。