[论文解读] Incoherent dictionaries and the statistical restricted isometry property

Shamgar Gurevich, Ronny Hadani|ArXiv.org|Sep 9, 2008

Mathematical Analysis and Transform Methods参考文献 33被引用 8

一句话总结

本文为非相干字典（即正交基的不相交并集）引入了一种统计版本的限制等距性质（SRIP）。证明了对于大小为 $ n = p^{1-\varepsilon} $ 的随机子集，Gram 矩阵以高概率偏离单位矩阵，且其特征值服从 Wigner 半圆分布，为 Heisenberg 字典和振子字典等确定性字典中的 RIP 提供了理论支持。

ABSTRACT

In this article we present a statistical version of the Candes-Tao restricted isometry property (SRIP for short) which holds in general for any incoherent dictionary which is a disjoint union of orthonormal bases. In addition, under appropriate normalization, the eigenvalues of the associated Gram matrix fluctuate around 1 according to the Wigner semicircle distribution. The result is then applied to various dictionaries that arise naturally in the setting of finite harmonic analysis, giving, in particular, a better understanding on a remark of Applebaum-Howard-Searle-Calderbank concerning RIP for the Heisenberg dictionary of chirp like functions.

研究动机与目标

• 为适用于确定性、非相干字典的统计受限等距性质（SRIP）建立理论框架。
• 分析此类字典中原子随机子集的 Gram 矩阵的谱行为。
• 为源自有限调和分析的大规模结构化字典中的受限等距性质提供理论依据。
• 解决长期存在的开放问题：在临界区域 $ n = \alpha p $ 且 $ \delta_1, \delta_2 \ll 1 $ 时，确定性构造的字典是否满足 RIP。
• 阐明随机子字典的 Gram 矩阵特征值的统计行为，将其与 Wigner 半圆分布联系起来。

提出的方法

• 为作为正交基不相交并集的字典 $ \mathfrak{D} $ 定义统计受限等距性质（SRIP）。
• 分析随机子集 $ S \subset \mathfrak{D} $（大小为 $ n = p^{1-\varepsilon} $）的算子范数 $ \| \mathbf{G}(S) - \mathrm{Id}_S \| $，证明其以高概率以 $ p^{-\varepsilon/2} $ 的速率衰减。
• 引入归一化误差算子 $ \mathbf{E}(S) = (p/n)^{1/2}(\mathbf{G}(S) - \mathrm{Id}_S) $ 以研究谱波动。
• 证明当 $ p \to \infty $ 时，$ \mathbf{E}(S) $ 的谱分布以概率收敛于 Wigner 半圆分布。
• 将结果应用于三个自然字典：Heisenberg 字典、振子字典和扩展振子字典，它们均满足所需的结构和非相干性条件。
• 利用有限调和分析和表示论（Heisenberg-Weil 表示）的工具，建立分析的理论框架。

实验结果

研究问题

• RQ1 对于作为正交基不相交并集的非相干字典，其统计版本的受限等距性质（SRIP）是否成立？
• RQ2 在该设定下，随机子字典的 Gram 矩阵的特征值如何围绕 1 波动？
• RQ3 在大 $ p $ 限制下，归一化 Gram 偏差的谱分布是否收敛于 Wigner 半圆分布？
• RQ4 Heisenberg 字典、振子字典和扩展振子字典是否在子字典大小 $ n = p^{1-\varepsilon} $ 下以高概率满足 SRIP？
• RQ5 在确定性、非相干字典中，Gram 矩阵的特征值的统计行为如何？其与随机矩阵理论有何关联？

主要发现

• 对于任意 $ k \in \mathbb{N} $，满足 $ \| \mathbf{G}(S) - \mathrm{Id}_S \| \geq p^{-\varepsilon/2} $ 的概率被限制为 $ C(k) p^{1 - \varepsilon k / 2} $，当 $ p \to \infty $ 时趋于零。
• 归一化误差算子 $ \mathbf{E}(S) $ 的谱分布以概率收敛于 Wigner 半圆分布 $ \rho_{SC}(x) = (2\pi)^{-1} \sqrt{4 - x^2} \cdot \mathbf{1}_{[-2,2]}(x) $，当 $ p \to \infty $ 时。
• 该结果适用于 Heisenberg 字典 $ \mathfrak{D}_H $、振子字典 $ \mathfrak{D}_O $ 和扩展振子字典 $ \mathfrak{D}_{EO} $，它们均为正交基的不相交并集，且 $ \mu $-非相干性满足 $ \mu = 1 $ 或 $ \mu = 4 $。
• 尽管底层字典具有确定性，但大小为 $ n = p^{1-\varepsilon} $ 的随机子字典的 Gram 矩阵的特征值波动在统计上由 Wigner 半圆律所支配。
• 该分析为经验观察提供了理论依据：Heisenberg 字典在临界区域可能满足 RIP，解决了 Applebaum-Howard-Searle-Calderbank 的一个评论。
• 概率界中的常数 $ C(k) $ 依赖于非相干系数 $ \mu $，因此更小的 $ \mu $ 能够提供更紧的界，使得 $ \mu $ 成为实际应用中的关键设计参数。