[论文解读] The smallest singular value of random combinatorial matrices

Tuan Tran|arXiv (Cornell University)|Jul 13, 2020

Random Matrices and Applications参考文献 58被引用 6

一句话总结

本文建立了首个关于具有 i.i.d. 行且每行恰好含 $ n/2 $ 个零的 $ n \times n $ 组合矩阵的奇异概率的指数上界。通过引入一种新型的组合最小公倍数（Combinatorial Least Common Denominator, CLCD），并证明在随机排列下线性形式的小球概率不等式，作者得到了一个紧致的尾部上界：$ \mathbb{P}(s_n(Q_n) \leq \varepsilon / \sqrt{n}) \leq C\varepsilon + 2e^{-cn} $，该上界在常数意义下是最优的，并由此推出 $ \mathbb{P}(Q_n \text{ 奇异}) \leq 2e^{-cn} $。

ABSTRACT

Let $Q_n$ be a random $n imes n$ matrix with entries in $\{0,1\}$ whose rows are independent vectors of exactly $n/2$ zero components. We show that the smallest singular value $s_n(Q_n)$ of $Q_n$ satisfies \[ \mathbb{P}\Big\{s_n(Q_n)\le \frac{\varepsilon}{\sqrt{n}}\Big\} \le C\varepsilon + 2 e^{-cn} \quad \forall \varepsilon \ge 0, \] which is optimal up to the constants $C,c>0$. This improves on earlier results of Ferber, Jain, Luh and Samotij, as well as Jain. In particular, for $\varepsilon=0$, we obtain the first exponential bound in dimension for the singularity probability \[ \mathbb{P}\big\{Q_n \,\, ext{is singular}\big\} \le 2 e^{-cn}.\] To overcome the lack of independence between entries of $Q_n$, we introduce an arithmetic-combinatorial invariant of a pair of vectors, which we call a Combinatorial Least Common Denominator (CLCD). We prove a small ball probability inequality for the combinatorial statistic $\sum_{i=1}^{n}a_iv_{σ(i)}$ in terms of the CLCD of the pair $(a,v)$, where $σ$ is a uniformly random permutation of $\{1,2,\ldots,n\}$ and $a:=(a_1,\ldots,a_n), v:=(v_1,\ldots,v_n)$ are real vectors. This inequality allows us to derive strong anti-concentration properties for the distance between a fixed row of $Q_n$ and the linear space spanned by the remaining rows, and prove the main result.

研究动机与目标

• 建立关于每行恰好含 $ n/2 $ 个零的随机 $ n \times n $ 组合矩阵的最小奇异值的紧致尾部上界。
• 解决长期存在的猜想：奇异概率呈指数衰减，优于以往的多项式与次指数上界。
• 通过引入一种新的算术-组合不变量——组合最小公倍数（CLCD），克服此类矩阵中条目强依赖性的挑战。
• 为线性形式 $ \sum_{i=1}^n a_i v_{\sigma(i)} $（其中 $ \sigma $ 为随机排列）建立小球概率不等式，其形式以 $ (\bm{a}, \bm{v}) $ 的 CLCD 表示。
• 将此不等式应用于控制固定行到其余行张成空间的距离，从而证明最小奇异值的主要结果。

提出的方法

• 引入组合最小公倍数（CLCD）作为新不变量，用于度量实向量对 $ (\bm{a}, \bm{v}) $ 的算术结构，量化其被有理组合逼近的能力。
• 证明小球概率不等式：$ \mathbb{P}( |\sum_{i=1}^n a_i v_{\sigma(i)} - x| \leq \varepsilon ) \lesssim \varepsilon / \mathrm{CLCD} + e^{-c \cdot \mathrm{CLCD}^2} $，其中 $ \sigma $ 为均匀随机排列。
• 利用基于 CLCD 的小球不等式，推导出固定行 $ Q_n $ 到其余行张成空间距离的反集中不等式。
• 将这些反集中估计应用于控制最小奇异值 $ s_n(Q_n) $ 较小的概率，从而导出主要的尾部上界。
• 建立不等式 $ \mathbb{P}(s_n(Q_n) \leq \varepsilon / \sqrt{n}) \leq C\varepsilon + 2e^{-cn} $ 对所有 $ \varepsilon \geq 0 $ 成立，其中常数 $ C, c > 0 $ 显式给出。
• 将结果推广至更一般的情形：每行和为 $ d $ 且满足 $ \min(d, n-d) \gtrsim n $ 的情况，尽管本文重点研究 $ d = n/2 $ 的情形。

实验结果

研究问题

• RQ1 对于每行恰好含 $ n/2 $ 个零的随机 $ n \times n $ 0-1 矩阵，其最小奇异值的最优小球概率上界为何？
• RQ2 尽管条目间存在强依赖性，能否为这类组合矩阵建立奇异概率的指数上界？
• RQ3 何种算术-组合不变量能有效捕捉向量的结构，以在排列诱导的依赖性下实现反集中？
• RQ4 如何将逆 Littlewood-Offord 理论推广至处理随机排列下的线性形式，而非 i.i.d. 系数？
• RQ5 CLCD 框架在多大程度上可推广至其他交换或依赖随机矩阵模型？

主要发现

• 本文首次建立了奇异概率的指数上界：$ \mathbb{P}(Q_n \text{ 奇异}) \leq 2e^{-cn} $，其中 $ c > 0 $，解决了关键开放问题。
• 主要尾部上界 $ \mathbb{P}(s_n(Q_n) \leq \varepsilon / \sqrt{n}) \leq C\varepsilon + 2e^{-cn} $ 在常数 $ C, c > 0 $ 意义下是最优的，与 i.i.d. 高斯矩阵的行为一致。
• 引入了组合最小公倍数（CLCD）作为新型不变量，捕捉了在排列下向量对的算术结构，从而实现了新的反集中结果。
• 证明了关于 $ \sum_{i=1}^n a_i v_{\sigma(i)} $ 的小球概率不等式（其中 $ \sigma $ 为均匀随机排列），其形式以 $ (\bm{a}, \bm{v}) $ 的 CLCD 表示，这是证明的核心。
• 该结果优于以往的界限：它强化了 Jain 的 $ \mathbb{P}(s_n(Q_n) \leq \varepsilon / n^2) \leq C\varepsilon + 2e^{-n^{0.0001}} $ 和 Ferber 等人的 $ \mathbb{P}(s_n(Q_n) \leq n^{-D}) \leq n^{-C} $，实现了指数衰减。
• 该框架具有足够的鲁棒性，可推广至每行有 $ d $ 个 1 且满足 $ \min(d, n-d) \gtrsim n $ 的一般情形，表明其在 $ d = n/2 $ 之外也具有广泛适用性。