[论文解读] Compressed Sensing of Simultaneous Low-Rank and Joint-Sparse Matrices

Mohammad Golbabaee, Pierre Vandergheynst|arXiv (Cornell University)|Nov 21, 2012

Sparse and Compressive Sensing Techniques参考文献 33被引用 32

一句话总结

本文提出了一种凸优化框架，通过核范数和 ℓ₂/ℓ₁ 混合范数正则化，联合强制矩阵恢复中的低秩与联合稀疏结构，实现了近似最优的测量需求和在噪声下的稳定恢复。该方法在多通道和结构化数据的压缩感知方面显著优于现有最先进方法。

ABSTRACT

In this paper we consider the problem of recovering a high dimensional data matrix from a set of incomplete and noisy linear measurements. We introduce a new model that can efficiently restrict the degrees of freedom of the problem and is generic enough to find a lot of applications, for instance in multichannel signal compressed sensing (e.g. sensor networks, hyperspectral imaging) and compressive sparse principal component analysis (s-PCA). We assume data matrices have a simultaneous low-rank and joint sparse structure, and we propose a novel approach for efficient compressed sensing (CS) of such data. Our CS recovery approach is based on a convex minimization problem that incorporates this restrictive structure by jointly regularizing the solutions with their nuclear (trace) norm and l2/l1 mixed norm. Our theoretical analysis uses a new notion of restricted isometry property (RIP) and shows that, for sampling schemes satisfying RIP, our approach can stably recover all low-rank and joint-sparse matrices. For a certain class of random sampling schemes satisfying a particular concentration bound (e.g. the subgaussian ensembles) we derive a lower bound on the number of CS measurements indicating the near-optimality of our recovery approach as well as a significant enhancement compared to the state-of-the-art. We introduce an iterative algorithm based on proximal calculus in order to solve the joint nuclear and l2/l1 norms minimization problem and, finally, we illustrate the empirical recovery phase transition of this approach by series of numerical experiments.

研究动机与目标

• 解决从不完整、含噪声的线性测量中恢复具有低秩和联合稀疏结构的高维矩阵的挑战。
• 开发一种计算上可处理的恢复算法，同时利用低秩和联合稀疏性先验。
• 为在噪声条件下以及近似低秩/稀疏情况下的稳定恢复建立理论保证。
• 在多通道压缩感知和 s-PCA 应用中，与现有方法相比，展示出更高的测量效率。

提出的方法

• 构建一个凸最小化问题，通过核范数（用于低秩结构）和 ℓ₂/ℓ₁ 混合范数（用于联合稀疏性）联合正则化解。
• 引入一种针对同时具有低秩和联合稀疏结构的矩阵量身定制的新受限等距性质（RIP），以分析恢复稳定性。
• 推导出稳定恢复所需测量数的下限：m ≳ O(k log(n₁/k) + kr + n₂r)，表明其近似最优。
• 提出一种迭代的近端分裂算法，以高效求解联合核范数与 ℓ₂/ℓ₁ 最小化问题。
• 在不同采样方案下评估性能，包括密集采样、独立分布采样和均匀分布随机采样。
• 通过数值相变实验验证在不同通道数和测量数下的经验恢复性能。

实验结果

研究问题

• RQ1 一种联合促进低秩与联合稀疏结构的凸优化框架，是否能实现优于现有最先进方法的压缩感知性能？
• RQ2 稳定恢复同时具有低秩和联合稀疏结构的矩阵，理论上所需的最少测量数是多少？
• RQ3 在含噪声测量以及近似低秩或非精确联合稀疏数据下，所提方法的性能如何？
• RQ4 使用结构化采样方案（如分布式独立采样）是否能提高多通道感知中的测量效率？
• RQ5 在实际多通道应用中，恢复性能如何随通道数和测量密度变化而变化？

主要发现

• 所提出的核范数-ℓ₂/ℓ₁ 最小化方法实现了 m ≳ O(k log(n₁/k) + kr + n₂r) 的测量界限，该界限近似最优，且显著优于先前工作。
• 理论分析表明，在噪声条件下以及对近似低秩或可压缩的联合稀疏矩阵，可实现稳定恢复，且重建误差存在上界。
• 数值实验表明恢复性能存在明显的相变现象，核范数-ℓ₂/ℓ₁ 方法在通道数增加时显著优于仅使用 ℓ₂/ℓ₁ 的恢复方法。
• 密集采样和分布式独立采样方案的恢复性能几乎相同，而分布式均匀采样则导致高冗余并降低性能。
• 该方法在传感器网络应用中实现了有利的权衡：更多的传感器节点（通道）可降低每个节点的测量需求。
• 近端算法能高效求解联合正则化问题，使该方法在多通道信号采集和 s-PCA 中具备实际部署可行性。