[论文解读] Tight Measurement Bounds for Exact Recovery of Structured Sparse Signals

Nikhil Rao, Benjamin Recht+1 more|arXiv (Cornell University)|Jun 22, 2011

Sparse and Compressive Sensing Techniques参考文献 29被引用 20

一句话总结

本文推导了使用组稀疏性对结构化稀疏信号进行精确恢复的紧致、通用的测量界限，其中信号系数在预定义的组中激活。研究表明，无论组之间是否存在重叠，精确恢复均可通过约 $(\sqrt{2\log(M-k)} + \sqrt{B})^2k + kB$ 个测量值实现——其中 $M$ 为组数，$k$ 为激活组数，$B$ 为最大组大小——与标准压缩感知相比，显著减少了测量数量。

ABSTRACT

Standard compressive sensing results state that to exactly recover an s sparse signal in R^p, one requires O(s. log(p)) measurements. While this bound is extremely useful in practice, often real world signals are not only sparse, but also exhibit structure in the sparsity pattern. We focus on group-structured patterns in this paper. Under this model, groups of signal coefficients are active (or inactive) together. The groups are predefined, but the particular set of groups that are active (i.e., in the signal support) must be learned from measurements. We show that exploiting knowledge of groups can further reduce the number of measurements required for exact signal recovery, and derive universal bounds for the number of measurements needed. The bound is universal in the sense that it only depends on the number of groups under consideration, and not the particulars of the groups (e.g., compositions, sizes, extents, overlaps, etc.). Experiments show that our result holds for a variety of overlapping group configurations.

研究动机与目标

• 推导结构化稀疏信号在已知组稀疏模式下精确恢复所需测量数的非渐近、通用界限。
• 表明组结构，尤其是重叠组，可使测量需求低于标准压缩感知。
• 建立界限仅依赖于组数，而不依赖于其组成、大小或重叠结构。
• 通过合成信号和真实世界信号（包括小波变换数据）的实验验证理论界限。

提出的方法

• 作者使用独立同分布的高斯测量矩阵，并通过分析测量算子的受限最小奇异值来推导恢复界限。
• 将信号支撑建模为 $M$ 个预定义组中 $k$ 个的并集，允许任意组重叠。
• 恢复算法基于重叠组套索（group lasso）形式，以促进预定义组结构中的稀疏性。
• 利用测量集中与几何概率理论推导理论界限，重点关注精确恢复所需的最小测量数。
• 分析扩展至具有小常数惩罚的子高斯矩阵，确保广泛适用性。
• 在多种组配置下进行经验验证——非重叠、部分重叠和高度重叠——使用合成数据和真实小波数据。

实验结果

研究问题

• RQ1 当稀疏模式位于预定义组的并集中时，能否推导出结构化稀疏信号精确恢复的非渐近测量界限？
• RQ2 组之间的重叠程度是否影响精确恢复所需的测量数？
• RQ3 该界限是否具有通用性，仅依赖于组数，而不依赖于其具体结构（大小、组成、重叠）？
• RQ4 在不同组配置下，与基于标准套索的恢复相比，所提出的界限在测量效率方面表现如何？

主要发现

• 所提出的界限具有通用性：仅依赖于组数 $M$、激活组数 $k$ 和最大组大小 $B$，而不依赖于组重叠或组成。
• 对于 $M=100$，$k=5$，$B=40$，所需测量数约为 630，无论组重叠与否，该界限在所有测试配置中均成立。
• 在小波变换情况下，$p=16384$，$M=16382$，$B=2$，$k=47$，该界限预测需要 1690 个测量值，足以实现精确恢复。
• 随着稀疏度 $s$ 增加，界限变松，但仍显著优于标准套索界限——例如，几乎完全重叠时为 405，非重叠情况为 3305。
• 在 380 个测量值时，套索方法无法恢复信号，而基于组的方法成功实现恢复，证明了结构化稀疏性的优势。
• 实验结果证实，理论界限在包括高度重叠和随机配置在内的多种组结构中均成立。