[论文解读] Near Optimal Compressed Sensing of Sparse Rank-One Matrices via Sparse Power Factorization.

Kiryung Lee, Yihong Wu+1 more|arXiv (Cornell University)|Dec 2, 2013

Sparse and Compressive Sensing Techniques被引用 33

一句话总结

本文提出稀疏功率分解（SPF），一种用于稀疏秩一矩阵压缩感知的交替最小化算法，可在接近信息论极限的测量数（对数因子内）实现稳定恢复。与凸松弛方法相比，SPF在无噪声和有噪声环境下均优于核范数与混合范数方法。

ABSTRACT

Compressed sensing of simultaneously sparse and rank-one matrices enables recovery of sparse signals from a few linear measurements of their bilinear form. One important question is how many measurements are needed for a stable reconstruction in the presence of measurement noise. Unlike the conventional compressed sensing for sparse vectors, where convex relaxation via the $\ell_1$-norm achieves near optimal performance, for compressed sensing of sparse and rank-one matrices, recently it has been shown by Oymak et al. that convex programmings using the nuclear norm and the mixed norm are highly suboptimal even in the noise-free scenario. We propose an alternating minimization algorithm called sparse power factorization (SPF) for compressed sensing of sparse rank-one matrices. Starting from a particular initialization, SPF achieves stable recovery and requires number of measurements within a logarithmic factor of the information-theoretic fundamental limit. For fast-decaying sparse signals, SPF starting from an initialization with low computational cost also achieves stable reconstruction with the same number of measurements. Numerical results show that SPF empirically outperforms the best known combinations of mixed norm and nuclear norm.

研究动机与目标

• 解决核范数与混合范数最小化等凸松弛方法在从压缩测量中恢复稀疏秩一矩阵时的次优性问题。
• 开发一种非凸算法，实现测量数接近信息论下限的稳定恢复。
• 设计一种初始化方案，使具有快速衰减振幅的稀疏信号能够实现快速收敛与稳定重建。
• 通过实验验证其性能优于最先进的基于混合范数与核范数的方法。
• 在非凸优化框架下，为噪声条件下稳定恢复建立理论保证。

提出的方法

• SPF 采用交替最小化框架，从压缩线性测量中联合估计稀疏向量与秩一矩阵。
• 该算法通过一种特定的低复杂度估计进行初始化，以确保快速收敛与稳定恢复。
• 在向量估计步骤中引入稀疏正则化，以利用感兴趣信号的稀疏性。
• 该方法旨在最小化一个非凸目标函数，以建模稀疏秩一矩阵的双线性测量模型。
• 理论分析表明，SPF 在测量数接近信息论极限的对数因子范围内，可实现稳定恢复。
• 对于快速衰减的稀疏信号，初始化计算成本低，同时保持接近最优的测量效率。

实验结果

研究问题

• RQ1 非凸算法能否在测量数接近信息论极限的情况下，实现稀疏秩一矩阵的稳定恢复？

主要发现

• SPF 在测量数接近信息论下限的对数因子范围内，实现了稀疏秩一矩阵的稳定恢复。
• 在噪声环境下，SPF 在重建精度与稳定性方面优于使用核范数与混合范数的凸松弛方法。
• 对于快速衰减的稀疏信号，SPF 采用低成本初始化，可在相同接近最优的测量数下实现稳定恢复。
• 数值实验表明，SPF 在经验性能上优于已知最优的核范数与混合范数最小化组合。
• 理论分析证实，即使在测量噪声存在的情况下，SPF 仍能提供稳定恢复的保证。
• SPF 避免了凸松弛方法的次优性，后者在无噪声场景下已被证明高度次优。