[论文解读] The statistical restricted isometry property and the Wigner semicircle distribution of incoherent dictionaries

Shamgar Gurevich, Ronny Hadani|ArXiv.org|Dec 14, 2008

Mathematical Analysis and Transform Methods参考文献 28被引用 21

一句话总结

本文为非相干字典（即正交基的不相交并集）引入了受限等距性（RIP）的统计版本（SRIP）。研究证明，对于大小为 $ n = p^{1-\rho} $ 的随机子集，格拉姆矩阵的特征值围绕 1 波动，其分布符合 Wigner 半圆分布，且 $ \mathbf{G}(S) - \text{Id}_S $ 的算子范数以 $ p^{-\rho/2} $ 的速率衰减，为海森堡与振子族等确定性字典中的 RIP 提供了强有力的理论支持。

ABSTRACT

In this article we present a statistical version of the Candes-Tao restricted isometry property (SRIP for short) which holds in general for any incoherent dictionary which is a disjoint union of orthonormal bases. In addition, we show that, under appropriate normalization, the eigenvalues of the associated Gram matrix fluctuate around 1 according to the Wigner semicircle distribution. The result is then applied to various dictionaries that arise naturally in the setting of finite harmonic analysis, giving, in particular, a better understanding on a remark of Applebaum-Howard-Searle-Calderbank concerning RIP for the Heisenberg dictionary of chirp like functions.

研究动机与目标

• 为作为正交基不相交并集的确定性字典建立统计受限等距性（SRIP）的变体。
• 分析大小为 $ n = p^{1-\rho} $ 的随机子集 $ S \to \text{D} $ 的格拉姆矩阵 $ \textbf{G}(S) $ 的谱行为，表明其特征值集中在单位矩阵附近。
• 证明 $ \textbf{G}(S) $ 的归一化特征值波动在 $ p \to \infty $ 时以概率收敛于 Wigner 半圆分布。
• 将这些结果应用于有限调和分析中的自然字典——海森堡字典、振子字典与扩展振子字典，为它们的 RIP 行为提供新见解。
• 通过证明其在随机采样下统计性地表现出类似 RIP 的性质，回应 Applebaum 等人关于海森堡字典的评论。

提出的方法

• 为字典 $ \text{D} = \coprod_{x \in \mathfrak{X}} B_x $ 定义统计受限等距性（SRIP），其中每个 $ B_x $ 是 $ \mathcal{H} $ 的正交基，且 $ \dim \mathcal{H} = p $。
• 分析大小为 $ n = p^{1-\varepsilon} $ 的均匀随机子集 $ S \subset \text{D} $ 的算子范数 $ \| \textbf{G}(S) - \text{Id}_S \| $，证明其以高概率被 $ p^{-\varepsilon/2} $ 控制。
• 引入归一化误差算子 $ \textbf{E}(S) = (p/n)^{1/2}(\textbf{G}(S) - \text{Id}_S) $ 以研究特征值波动。
• 证明谱分布 $ \rho_{\mathbf{E}(S)} $ 在 $ p \to \infty $ 时以概率收敛于 Wigner 半圆分布 $ \rho_{SC}(x) = \frac{1}{2\pi} \sqrt{4 - x^2} \cdot \mathbf{1}_{[-2,2]}(x) $。
• 利用非相干系数 $ \mu $ 控制尾部概率 $ P(\| \textbf{G}(S) - \text{Id}_S \| \geq p^{-\varepsilon/2}) \leq C(k) p^{1 - \varepsilon k / 2} $ 中的常数 $ C(k) $，表明其衰减快于任意多项式。
• 将结果应用于三种自然字典：海森堡字典 $ \mathfrak{D}_H $、振子字典 $ \mathfrak{D}_O $ 与扩展振子字典 $ \mathfrak{D}_{EO} $，三者均满足所需的结构与非相干性条件。

实验结果

研究问题

• RQ1 对于作为正交基不相交并集的非相干字典，统计受限等距性（SRIP）是否成立？
• RQ2 对于大小为 $ n = p^{1-\varepsilon} $ 的随机子集 $ S \subset \text{D} $，格拉姆矩阵 $ \textbf{G}(S) $ 的特征值如何围绕 1 波动？
• RQ3 在 $ p \to \infty $ 的大样本极限下，是否可证明归一化误差 $ \textbf{E}(S) $ 的谱分布收敛于 Wigner 半圆分布？
• RQ4 海森堡字典、振子字典与扩展振子字典是否满足 SRIP 并表现出半圆特征值统计？
• RQ5 对于海森堡字典在临界区域可能满足 RIP 的经验观察，其统计依据是什么？

主要发现

• 对于任意作为正交基不相交并集的非相干字典，当 $ p \to \infty $ 时，$ \| \textbf{G}(S) - \text{Id}_S \| \geq p^{-\varepsilon/2} $ 的概率以快于任意多项式速率衰减，其中 $ \varepsilon > 0 $。
• 归一化误差算子 $ \textbf{E}(S) = (p/n)^{1/2}(\textbf{G}(S) - \text{Id}_S) $ 的谱分布以概率收敛于 Wigner 半圆分布 $ \rho_{SC}(x) = \frac{1}{2\pi} \sqrt{4 - x^2} \cdot \mathbf{1}_{[-2,2]}(x) $，当 $ p \to \infty $ 时。
• 该结果适用于海森堡字典 $ \mathfrak{D}_H $、振子字典 $ \mathfrak{D}_O $ 与扩展振子字典 $ \mathfrak{D}_{EO} $，三者均为正交基的不相交并集，且满足 $ \mu \leq 4 $。
• 尾部界中常数 $ C(k) $ 依赖于非相干系数 $ \mu $，因此更小的 $ \mu $ 可得更紧的界，对实际应用更有利。
• 研究结果通过证明海森堡字典表现出 SRIP 与半圆特征值统计，解决了 Applebaum 等人的评论，支持其在临界区域可能具备 RIP 行为。
• 尽管字典本身是确定性的，谱分布收敛于 Wigner 半圆的结论在概率意义下成立，表明在大 $ p $ 极限下特征值波动具有普遍性。