[論文レビュー] Highly Efficient Computation of Generalized Inverse of a Matrix

Victor Y. Pan, Fazlollah Soleymani+1 more|arXiv (Cornell University)|Apr 27, 2016

Matrix Theory and Algorithms参考文献 31被引用数 5

ひとこと要約

本稿では、1回の反復で7回の行列積しか使用しないにもかかわらず18次収束を達成する、行列の外一般化逆行列を計算するための新規なハイパーパower反復法を提案する。この手法は、既知の最高水準の計算効率インデックスを達成する。この方法は自己修正可能であり、1回の追加の行列積を追加することで安定化できる。密行列およびスパース行列の両方において、既存の安定な反復手法を著しく上回る速度と精度を実現する。

ABSTRACT

We propose a hyperpower iteration for numerical computation of the outer generalized inverse of a matrix which achieves the 18th order of convergence by using only seven matrix multiplication per iteration loop. This is the record high efficiency for that computational task. The algorithm has a relatively mild numerical instability, and we stabilize it at the price of adding one extra matrix multiplication per iteration loop. This imlplies an efficiency index that significantly exceeds the known record for numerically stable iterations for this task. Our numerical tests cover a variety of examples such as Drazin case, rectangular case, and preconditioning of linear systems. The test results are in good accordance with our formal study and indicate that our algorithms can be of interest for the user.

研究の動機と目的

• 行列が長方形またはランク落ちしているような状況においても、外一般化逆行列を計算するための高効率な反復アルゴリズムを開発すること。
• 反復ごとの計算コスト（効率インデックスで測定）を最小限に抑えつつ、可能な限り高い収束次数を達成すること。
• 特に悪条件または大規模な行列において、実用的な計算において数値的安定性を確保すること。
• 前処理付き線形方程式系や回帰分析を含む多様な応用分野における本手法の性能を評価すること。
• 一般化逆行列計算における既知の効率記録を、数値的に安定な反復手法の観点から上回ること。

提案手法

• 本アルゴリズムは、行列積を用いた再帰的関係で定義されるハイパーパワーフレームワークを採用し、1回の反復で7回の行列積で18次収束を達成する。
• コアとなる反復式は $ X_{k+1} = X_k (I + \upsilon_k \zeta_k) $ であり、ここで $ \psi_k = I - A X_k $、$ \zeta_k = I + \psi_k + \psi_k^2 $、$ \upsilon_k = \psi_k + \psi_k^4 $ である。
• 正則行列に対しては自己修正可能であるが、一般化逆行列に対してはやや数値的不安定性を示す。この問題は、1回の追加の行列積を1反復あたり追加することで緩和される。
• 初期行列 $ X_0 $ は $ A $ の対角成分の逆数からなるものとして選ばれる。すなわち $ X_0 = \text{diag}(1/a_{11}, \dots, 1/a_{nn}) $ であり、収束を迅速化するために用いられる。
• 本アルゴリズムは、スパイラス線形方程式系の前処理を計算するために適用され、しきい値処理（例：`Chop[X, 1e-5]`）によりスパarsityが保持される。
• 本手法は、Drazin逆行列、長方形行列、およびGMRESを用いた大規模スパース系の前処理という多様なケースに対してテストされた。

実験結果

リサーチクエスチョン

• RQ1 外一般化逆行列のための反復手法が、1回の反復で7回の行列積しか使用しないにもかかわらず18次収束を達成できるか？
• RQ2 一般化逆行列の高次反復手法において、収束速度と数値的安定性のトレードオフはどのようなものか？
• RQ3 Newton-Schulz、Chebyshev-Sen-Prabhu、FMといった既存の反復手法と比較して、本手法の計算時間と精度はどのように異なるか？
• RQ4 本手法は、大規模スパース線形方程式系のKrylov部分空間ソルバー（例：GMRES）における前処理として効果的に使用できるか？
• RQ5 本手法の効率インデックスは、既知の安定な反復手法と比較して顕著に高いものか？

主な発見

• 提案手法は、1回の反復で7回の行列積しか使用しないにもかかわらず18次収束を達成し、その結果として約1.51121の効率インデックスを達成した。これは、この分野において記録として最高の値である。
• 数値的実験では、Drazin逆行列、長方形行列、および大規模スパース系の前処理というすべてのテストケースで一貫した収束が確認された。
• スパース線形方程式系の前処理において、本手法はILUベースの前処理と比較して計算時間を著しく短縮した。特に厳しい収束許容誤差条件下でも、1サイクル反復で十分な性能を示した。
• 1回の追加行列積を追加した安定化版では、18次収束を維持しながらも、数値的安定性が著しく向上した。
• 時間比較において、SM、CM、FMといった既知の手法と比較して、本手法は100×90から1000×990までの全テストサイズで一貫して高速であった。
• 本手法の性能は、複数の精度レベルにわたり安定しており、特に前処理として使用した場合、GMRESの反復回数を顕著に削減した。