[论文解读] Subspace-preserving sparsification of matrices with minimal perturbation to the near null-space. Part I: Basics

Chetan Jhurani|arXiv (Cornell University)|Apr 26, 2013

Matrix Theory and Algorithms参考文献 8被引用 3

一句话总结

该论文提出了一种基于凸优化的矩阵稀疏化算法，可精确保持左、右零空间，最小化近零空间中奇异值和奇异向量的扰动，并自动维持关键矩阵结构（如厄米特、对称、哈密顿、循环等）而不需显式约束。该方法生成的稀疏矩阵具有高谱保真度，可有效用作高阶有限元方法中的预条件子。

ABSTRACT

This is the first of two papers to describe a matrix sparsification algorithm that takes a general real or complex matrix as input and produces a sparse output matrix of the same size. The non-zero entries in the output are chosen to minimize changes to the singular values and singular vectors corresponding to the near null-space of the input. The output matrix is constrained to preserve left and right null-spaces exactly. The sparsity pattern of the output matrix is automatically determined or can be given as input. If the input matrix belongs to a common matrix subspace, we prove that the computed sparse matrix belongs to the same subspace. This works without imposing explicit constraints pertaining to the subspace. This property holds for the subspaces of Hermitian, complex-symmetric, Hamiltonian, circulant, centrosymmetric, and persymmetric matrices, and for each of the skew counterparts. Applications of our method include computation of reusable sparse preconditioning matrices for reliable and efficient solution of high-order finite element systems. The second paper in this series describes our open-source implementation, and presents further technical details.

研究动机与目标

• 开发一种矩阵稀疏化算法，使稠密矩阵的近零空间奇异值和奇异向量扰动最小化。
• 在稀疏化过程中精确保持输入矩阵的左、右零空间。
• 自动保留矩阵的基本子空间结构（如厄米特、复对称、哈密顿、循环、中心对称、反对称等），而无需施加显式约束。
• 使生成的稀疏矩阵可作为高阶有限元系统中可重复使用的高效预条件子。
• 提供一个理论基础坚实的凸优化框架，以平衡稀疏性、谱保真度与结构保真度。

提出的方法

• 将稀疏输出矩阵的计算建模为一个矩阵值、线性约束的凸二次优化问题。
• 采用具有参数 $p$ 和 $q$ 的稀疏性促进目标函数，以控制稀疏性与谱保真度之间的权衡。
• 通过优化变量上的线性等式约束，精确实现零空间保持。
• 自动确定稀疏模式，或允许用户输入，确保稀疏化过程中的结构不变性。
• 在性能度量中使用 Moore-Penrose 广义逆，以评估逆算子近似的质量。
• 在预处理阶段应用对角缩放，以改善输入矩阵的数值条件，从而提升稀疏模式计算的精度。

实验结果

研究问题

• RQ1 是否存在一种稀疏化算法，可在精确保持矩阵左、右零空间的同时，最小化其近零空间奇异值与奇异向量的扰动？
• RQ2 稀疏化后的矩阵是否能在无需显式约束的情况下，自动继承原始矩阵的结构特性（如对称性、哈密顿性、循环性等）？
• RQ3 稀疏参数 $p$ 和 $q$ 的选择如何影响原始矩阵与稀疏矩阵的逆矩阵的条件数及 Frobenius 范数差？
• RQ4 在谱逼近与逆逼近性能方面，稀疏化矩阵的表现在多大程度上与稀疏度相关，而非具体参数值？
• RQ5 生成的稀疏矩阵是否可作为高阶有限元系统中有效且可重用的预条件子？

主要发现

• 通过优化约束，计算得到的稀疏矩阵 $X$ 精确保持了输入矩阵 $A$ 的左、右零空间。
• 对于测试矩阵 $A \in \mathbb{R}^{40 \times 40}$，稀疏化矩阵 $X$ 的密度为 37%（含 597 个非零元），条件数为 552，表明其具有中等条件性。
• ${A}^\natural X$ 的条件数为 4.73，$X{A}^\natural$ 的条件数为 5.37，表明其奇异值在 1 附近高度聚集，这对预条件化有利。
• 稀疏矩阵的广义逆 $X^\dagger$ 与原始矩阵的广义逆 $A^\dagger$ 之间的相对 Frobenius 范数差最小，表明逆逼近具有高保真度。
• 条件数与逆差等性能度量与非零元数量高度相关，而非 $p$ 和 $q$ 的具体取值，表明对参数调优具有鲁棒性。
• 矩阵 $X$ 中的非零元素与 $A$ 中对应元素表现出强相关性，表明该算法在稀疏化过程中有效保留了有意义的矩阵结构。