[论文解读] Investigate Invertibility of Sparse Symmetric Matrix

Wei Feng|arXiv (Cornell University)|Dec 10, 2017

Random Matrices and Applications参考文献 10被引用 3

一句话总结

该论文证明了当稀疏参数 $ p \geq n^{-c} $（其中常数 $ c $ 依赖于条目四阶矩）时，具有 i.i.d. 伯努利稀疏性和子高斯条目的 $ n \times n $ 稀疏对称随机矩阵 $ A $ 几乎必然可逆。通过组合方法和适用于对称稀疏性的去耦技术，论文建立了最小奇异值的定量下界：以高概率有 $ s_{\text{min}}(A) > \varepsilon \sqrt{p/n} $。

ABSTRACT

In this paper, we investigate the invertibility of sparse symmetric matrices. We show that for an $n imes n$ sparse symmetric random matrix $A$ with $A_{ij} = δ_{ij} ξ_{ij}$ is invertible with high probability. Here, $δ_{ij}$s, $i\ge j$ are i.i.d. Bernoulli random variables with $\mathbb{P} \left(ξ_{ij}=1 ight) =p \ge n^{-c}$, $ξ_{ij}, i\ge j$ are i.i.d. random variables with mean 0, variance 1 and finite forth moment $M_4$, and $c$ is constant depending on $M_4$. More precisely, $$ s_{ m min} (A) > \varepsilon \sqrt{\frac{p}{n}}. $$ with high probability.

研究动机与目标

• 在一般子高斯条目假设下，建立稀疏对称随机矩阵的定量可逆性。
• 通过组合与集中化技术，将非稀疏可逆性结果推广至稀疏对称情形。
• 为这类矩阵推导出最小奇异值 $ s_{\text{min}}(A) $ 的高概率下界。
• 解决对称稀疏性带来的挑战，该特性使得依赖 i.i.d. 非对称结构的标准方法变得复杂。

提出的方法

• 将矩阵 $ A $ 建模为 $ A_{ij} = \delta_{ij} \xi_{ij} $，其中 $ \delta_{ij} $ 为 i.i.d. 伯努利($ p $) 分布，$ \xi_{ij} $ 为 i.i.d. 子高斯分布，均值为 0，方差为 1，且四阶矩有限。
• 对稀疏模式 $ \bm{\delta} $ 进行条件化处理，将 $ A $ 视为在随机支撑集上具有 i.i.d. 条目的随机矩阵。
• 利用高斯集中不等式，基于在高斯测度下范数的 $ \sqrt{2} $-Lipschitz 性质，条件性控制算子范数 $ \|A\| $。
• 应用一个组合引理，控制稀疏向量 $ x $ 的 $ Ax $ 范数，该引理已适配对称稀疏性。
• 对 $ \|A\| $ 的 $ pn $-阶矩应用马尔可夫不等式，推导算子范数的尾部界。
• 结合集中不等式与矩估计，证明以高概率有 $ \|A\| \leq C_{\text{op}} \sqrt{pn} $ 且 $ s_{\text{min}}(A) > \varepsilon \sqrt{p/n} $。

实验结果

研究问题

• RQ1 在子高斯条目假设下，能否以高概率建立稀疏对称随机矩阵的可逆性？
• RQ2 此类矩阵的最小奇异值 $ s_{\text{min}}(A) $ 的最优下界是什么？
• RQ3 稀疏度水平 $ p $ 如何影响对称随机矩阵的可逆性与条件数？
• RQ4 用于非厄米特稀疏矩阵的技术能否被适配至对称情形？

主要发现

• 当 $ p \geq n^{-c} $ 且 $ c $ 依赖于条目四阶矩时，矩阵 $ A $ 几乎必然可逆。
• 以高概率有 $ s_{\text{min}}(A) > \varepsilon \sqrt{p/n} $，其中任意 $ \varepsilon > 0 $。
• 以高概率有算子范数 $ \|A\| $ 满足 $ C_{\text{op}} \sqrt{pn} $。
• 在相同稀疏条件下，条件数 $ \sigma(A) = s_{\text{max}}(A)/s_{\text{min}}(A) $ 以高概率有 $ O(n) $ 的上界。
• 通过将组合方法对称化，该结果将先前关于非厄米特稀疏矩阵的工作推广至对称情形。
• 证明依赖于对稀疏模式的条件化处理、矩估计以及高斯集中不等式，以控制算子范数与奇异值。