[论文解读] The Littlewood-Offord Problem and invertibility of random matrices

Mark Rudelson, Roman Vershynin|arXiv (Cornell University)|Mar 16, 2007

Random Matrices and Applications参考文献 18被引用 8

一句话总结

本文解决了关于 i.i.d. entries 随机矩阵最小奇异值的两个长期存在的猜想。在最小矩假设下，证明了最小奇异值以高概率为 $ n^{-1/2} $ 阶，并建立了最优尾部估计。关键创新在于提出了一项精确的 Littlewood-Offord 型界，表明当系数大小相近时，i.i.d. 随机变量之和仅在长度为浓度概率倒数的等差数列附近集中。

ABSTRACT

We prove two basic conjectures on the distribution of the smallest singular value of random n times n matrices with independent entries. Under minimal moment assumptions, we show that the smallest singular value is of order n^{-1/2}, which is optimal for Gaussian matrices. Moreover, we give a optimal estimate on the tail probability. This comes as a consequence of a new and essentially sharp estimate in the Littlewood-Offord problem: for i.i.d. random variables X_k and real numbers a_k, determine the probability P that the sum of a_k X_k lies near some number v. For arbitrary coefficients a_k of the same order of magnitude, we show that they essentially lie in an arithmetic progression of length 1/p.

研究动机与目标

• 在四阶矩假设下，解决关于 i.i.d. entries 随机矩阵最小奇异值为 $ n^{-1/2} $ 阶的猜想。
• 在从高斯矩阵推广到一般 i.i.d. entries 的前提下，建立最小奇异值的精确尾部概率估计。
• 证明 Spielman-Teng 关于随机符号矩阵可逆性的猜想，表明奇异概率为指数级小，并且最小奇异值满足 Tracy-Widom 型尾部估计。
• 在 Littlewood-Offord 问题中发展一种本质上精确的新估计，刻画 i.i.d. 随机变量线性形式的集中性。

提出的方法

• 在 Littlewood-Offord 问题中发展一种新且精确的估计：对于 i.i.d. 随机变量 $ X_k $ 和实系数 $ a_k $，随机变量 $ \sum a_k X_k $ 落在固定值 $ v $ 附近的概率被控制为 $ O(1/p) $，其中 $ p $ 为浓度概率。
• 引入单位球面的可压缩与不可压缩向量分解，以分析最小奇异值。
• 对矩阵前 $ n-1 $ 行进行条件化处理，以控制随机法向量的范数及其与最后一行的内积。
• 应用小球概率界（推论 4.9）以控制随机法向量与最后一行内积较小的概率。
• 在球面上使用 $ \ell^2 $-网进行网论证，以控制矩阵在不可压缩向量上的行为。
• 通过并集界和指数尾部估计，结合可压缩与不可压缩情形，推导出最终的可逆性结果。

实验结果

研究问题

• RQ1 在仅具有四阶矩假设下，$ n \times n $ 随机矩阵最小奇异值的最优尾部行为是什么？
• RQ2 能否通过证明集中仅发生在长度为 $ 1/p $ 的等差数列附近，来解决逆 Littlewood-Offord 问题？
• RQ3 随机符号矩阵的最小奇异值是否满足至多指数小修正项的 Tracy-Widom 型尾部估计？
• RQ4 在次高斯矩假设下，能否建立最小奇异值的指数尾部界以证明随机矩阵的可逆性？
• RQ5 对于一般 i.i.d. 矩阵，最小奇异值的 $ n^{-1/2} $ 阶是否在高斯情形之外也最优？

主要发现

• 在四阶矩假设下，最小奇异值 $ s_n(A) $ 满足 $ \mathbb{P}(s_n(A) \leq \varepsilon n^{-1/2}) \leq \delta $ 对所有 $ n \geq n_0 $ 成立，其中 $ \varepsilon $ 和 $ n_0 $ 关于 $ \delta $ 和四阶矩界 $ B $ 多项式依赖，从而证明了 von Neumann、Smale 和 Edelman 的猜想。
• 对于次高斯 i.i.d. entries 且次高斯矩有界于 $ B $ 的情形，尾部估计 $ \mathbb{P}(s_n(A) \leq \varepsilon n^{-1/2}) \leq C\varepsilon + c^n $ 成立，其中 $ C>0 $，$ c\in(0,1) $ 仅依赖于 $ B $，从而证实了 Spielman-Teng 的猜想。
• 本文建立了精确的 Littlewood-Offord 界：当系数 $ a_k $ 大小相近时，$ \sum a_k X_k $ 在任意值 $ v $ 附近的集中概率 $ p $ 意味着 $ a_k $ 位于长度为 $ O(1/p) $ 的等差数列中。
• 最小奇异值以高概率为 $ n^{-1/2} $ 阶，且该界为最优，与高斯矩阵的行为一致。
• 随机符号矩阵的奇异概率被证明为指数级小，与猜想的 $ (1/2 + o(1))^n $ 一致，且最小奇异值的尾部估计在该修正项内成立。
• 强可逆性结果被建立，具有指数尾部界：$ \mathbb{P}(\inf_{x \in \text{Incomp}} \|Ax\|_2 \leq \varepsilon \rho n^{-1/2}) \leq \frac{C_{11}}{\delta}(\varepsilon + c^n) + \mathbb{P}(\|A\| > Kn^{1/2}) $，优于先前工作中使用的多项式界。