[论文解读] Signal Recovery in Unions of Subspaces with Applications to Compressive Imaging

Nikhil Rao, Robert D. Nowak+1 more|arXiv (Cornell University)|Sep 14, 2012

Sparse and Compressive Sensing Techniques参考文献 44被引用 12

一句话总结

本文提出了一种凸优化框架，用于在子空间并集中实现精确信号恢复，通过结构化稀疏性减少测量需求。推导出仅依赖于子空间数量和相互方向的通用样本复杂度界，证明在压缩成像和遗传学等应用中，通过组lasso和潜在组lasso公式，其恢复性能优于标准压缩感知。

ABSTRACT

In applications ranging from communications to genetics, signals can be modeled as lying in a union of subspaces. Under this model, signal coefficients that lie in certain subspaces are active or inactive together. The potential subspaces are known in advance, but the particular set of subspaces that are active (i.e., in the signal support) must be learned from measurements. We show that exploiting knowledge of subspaces can further reduce the number of measurements required for exact signal recovery, and derive universal bounds for the number of measurements needed. The bound is universal in the sense that it only depends on the number of subspaces under consideration, and their orientation relative to each other. The particulars of the subspaces (e.g., compositions, dimensions, extents, overlaps, etc.) does not affect the results we obtain. In the process, we derive sample complexity bounds for the special case of the group lasso with overlapping groups (the latent group lasso), which is used in a variety of applications. Finally, we also show that wavelet transform coefficients of images can be modeled as lying in groups, and hence can be efficiently recovered using group lasso methods.

研究动机与目标

• 解决当稀疏模式位于已知子空间并集中时，从少量测量中恢复高维信号的挑战。
• 通过超越标准稀疏性的结构化稀疏性，减少精确信号恢复所需的测量数。
• 推导出仅依赖于子空间数量及其几何方向的通用样本复杂度界，而不依赖于其具体组成或维度。
• 分析具有重叠组的潜在组lasso（overlapping groups）以实现结构化稀疏性，并提供理论恢复保证。
• 展示在压缩成像等实际问题中的适用性，其中小波系数自然形成组结构。

提出的方法

• 使用组lasso和潜在组lasso对重叠组稀疏性进行建模，将信号恢复表述为凸优化问题。
• 采用受限最小奇异值（RMSV）作为关键分析工具，其条件弱于受限等距条件，更适合结构化稀疏性分析。
• 在独立同分布的高斯测量下，推导出精确恢复的样本复杂度界，表明测量数随子空间数量及其几何排列而增长。
• 利用大数集中律和高斯尾部界，控制测量算子在子空间上的行为，尤其针对潜在组lasso情形。
• 通过对偶性和奇异值分解（SVD）界定恢复算子的范数，并建立恢复条件。
• 证明恢复误差受一个依赖于活跃子空间数量和子空间基矩阵条件数的项所限制。

实验结果

研究问题

• RQ1 当信号位于已知子空间并集中时，如何减少精确信号恢复所需的测量数？
• RQ2 在具有重叠组的潜在组lasso设置下，精确恢复的理论样本复杂度是什么？
• RQ3 子空间的几何排列（例如它们之间的夹角）如何影响所需测量数？
• RQ4 当稀疏模式位于子空间并集中时，凸优化方法（如组lasso）能否实现精确恢复？
• RQ5 在小波变换图像中，结构化稀疏性模型（如波束成像）能在多大程度上提升压缩成像性能？

主要发现

• 精确恢复所需的测量数按 $\mathcal{O}(kB + B\log L)$ 缩放，其中 $k$ 为活跃子空间数，$B$ 为任一子空间的最大维度，$L$ 为子空间总数。
• 样本复杂度界具有普适性：仅依赖于子空间数量及其相互方向，而不依赖于其具体维度、组成或重叠情况。
• 对于潜在组lasso，本文推导出非渐近样本复杂度界，相较于先前工作有显著改进，尤其在重叠组情形下。
• 图像的小波系数可有效建模为位于子空间并集中，从而通过组lasso方法实现高效恢复。
• 所推导的界对任意子高斯测量矩阵均成立，仅需一个较小的常数惩罚，扩展了结果在高斯矩阵之外的适用性。
• 证明了受限最小奇异值条件足以实现精确恢复，且分析为各种结构化稀疏性模型提供了可推广的框架。