[論文レビュー] Subspace-preserving sparsification of matrices with minimal perturbation to the near null-space. Part I: Basics

Chetan Jhurani|arXiv (Cornell University)|Apr 26, 2013

Matrix Theory and Algorithms参考文献 8被引用数 3

ひとこと要約

本稿では、凸最適化に基づく行列スパース化アルゴリズムを提示する。この手法は、左および右の零空間を正確に保持し、近似零空間内の特異値および特異ベクトルへの摂動を最小限に抑え、ヒルバート型、対称型、ハミルトニアン型、巡回型などの重要な行列構造を明示的な制約なしに自動的に維持する。この方法により、スペクトル忠実度の高いスパース行列が得られ、高次有限要素法における再利用可能なプリコンディショナとしての有効性が示される。

ABSTRACT

This is the first of two papers to describe a matrix sparsification algorithm that takes a general real or complex matrix as input and produces a sparse output matrix of the same size. The non-zero entries in the output are chosen to minimize changes to the singular values and singular vectors corresponding to the near null-space of the input. The output matrix is constrained to preserve left and right null-spaces exactly. The sparsity pattern of the output matrix is automatically determined or can be given as input. If the input matrix belongs to a common matrix subspace, we prove that the computed sparse matrix belongs to the same subspace. This works without imposing explicit constraints pertaining to the subspace. This property holds for the subspaces of Hermitian, complex-symmetric, Hamiltonian, circulant, centrosymmetric, and persymmetric matrices, and for each of the skew counterparts. Applications of our method include computation of reusable sparse preconditioning matrices for reliable and efficient solution of high-order finite element systems. The second paper in this series describes our open-source implementation, and presents further technical details.

研究の動機と目的

• 密行列の近似零空間における特異値および特異ベクトルへの摂動を最小限に抑える行列スパース化アルゴリズムの開発。
• スパース化の過程で入力行列の左および右の零空間を正確に保持すること。
• ヒルバート型、複素対称型、ハミルトニアン型、巡回型、中心対称型、反対称型などの基本的な行列部分空間構造を、明示的な制約を課すことなく自動的に保持すること。
• 得られたスパース行列を、高次有限要素系における再利用可能で効率的なプリコンディショナとして使用可能にする。
• スパarsity、スペクトル保存、構造的忠実度のバランスを取る理論的裏付けのある凸最適化フレームワークの提供。

提案手法

• スパース出力行列を計算するための、行列値で線形制約を含む凸二次計画問題を定式化する。
• パラメータ $p$ と $q$ を用いて、スパarsityとスペクトル忠実度のトレードオフを制御するスパarsity促進型の目的関数を採用する。
• 最適化変数に線形等式制約を課すことにより、零空間の正確な保持を実現する。
• スパarsityパターンを自動的に決定するか、ユーザー定義の入力を許容し、スパース化における構造的不変性を保証する。
• 近似の質を評価するために、性能指標としてモール・ペンローズ一般化逆行列を用いる。
• スパarsityパターンの計算のための数値的安定性を向上させるために、入力行列の前処理として対角スケーリングを適用する。

実験結果

リサーチクエスチョン

• RQ1 スパース化アルゴリズムは、行列の左および右の零空間を正確に保持しつつ、その近似零空間における特異値および特異ベクトルへの摂動を最小限に抑えることができるか？
• RQ2 スパース化された行列は、明示的な制約なしに、元の行列の構造的性質（例：対称性、ハミルトニアン型、巡回型）を自動的に継承するか？
• RQ3 スパarsityパラメータ $p$ と $q$ の選択が、元の行列とスパース行列の逆行列の条件数およびフロベニウスノルム差にどのように影響するか？
• RQ4 スペクトル的および逆行列近似の観点から、スパース化行列の性能は、個々のパラメータ値の代わりにスパarsityレベルにどの程度相関しているか？
• RQ5 得られたスパース行列は、高次有限要素系に対して効果的かつ再利用可能なプリコンディショナとして機能するか？

主な発見

• 最適化制約により強制されたため、計算されたスパース行列 $X$ は、入力行列 $A$ の左および右の零空間を正確に保持している。
• テスト行列 $A \in \mathbb{R}^{40 \times 40}$ に対して、スパース化行列 $X$ は密度37％（非ゼロ要素597個）を達成し、条件数552を示しており、中程度の条件数である。
• ${A}^\natural X$ の条件数は4.73、$X{A}^\natural$ の条件数は5.37であり、1に近い強いスペクトルクラスタリングを示しており、これはプリコンディショニングに好都合である。
• $X^\dagger$ と $A^\dagger$ の相対的フロベニウスノルム差が最小化されており、逆行列近似の高忠実度を示している。
• 条件数や逆行列差といった性能指標は、$p$ と $q$ の具体的な値よりも非ゼロ要素の数に強く相関しており、パラメータチューニングに対して高いロバスト性を示している。
• 行列 $X$ の非ゼロ要素は、元の行列 $A$ の対応する要素と強い相関を示しており、スパース化の過程で意味のある行列構造が保持されていることが示唆される。