[论文解读] Thresholded Basis Pursuit: Support Recovery for Sparse and Approximately Sparse Signals

Venkatesh Saligrama, Manqi Zhao|arXiv (Cornell University)|Sep 29, 2008

Sparse and Compressive Sensing Techniques参考文献 26被引用 5

一句话总结

本文提出了一种基于线性规划的方法，用于从含噪的随机投影中精确恢复稀疏及近似稀疏信号的支持。通过求解ℓ1-最小化问题并随后进行阈值处理，该方法在SNR = O(log n)且测量数m = O(k log n/k)时实现了完美的符号模式恢复，匹配无噪稀疏性的理论极限，并在SNR和稀疏性要求方面优于LASSO和MAX-Correlation方法。

ABSTRACT

In this paper we present a linear programming solution for support recovery. Support recovery involves the estimation of sign pattern of a sparse signal from a set of randomly projected noisy measurements. Our solution of the problem amounts to solving min ‖Z‖1 s.t. Y = GZ, and quantizing/thresholding the resulting solution Z. We show that this scheme is guaranteed to perfectly reconstruct a discrete signal or control the element-wise reconstruction error for a continuous signal for specific values of sparsity. We show that the sign pattern of X can be recovered with SNR = O(log n) and m = O(k log n/k) measurements, where k is the sparsity level and satisfies 0 < k ≤ αn, where, α is some non-zero constant. Our proof technique is based on perturbation of the noiseless ℓ1 problem. Consequently, the maximum achievable sparsity level in the noisy problem is comparable to that of the noiseless problem. Our result offers a sharp characterization in that neither the SNR nor the sparsity ratio can be significantly improved. In contrast previous results based on LASSO and MAX-Correlation techniques either assume significantly larger SNR or sub-linear sparsity. Our results has implications for approximately sparse problems. We show that the k largest coefficients of a non-sparse signal X can be recovered from m = O(k log n/k) random projections for certain classes of signals.

研究动机与目标

• 解决从含噪随机投影测量中恢复稀疏及近似稀疏信号支持的挑战。
• 开发一种在最小SNR和测量要求下保证精确符号模式恢复的方法。
• 克服现有方法（如LASSO和MAX-Correlation）在SNR要求更高或稀疏性为次线性时的局限性。
• 在含噪环境下对可实现稀疏度水平提供精确表征，与无噪ℓ1问题中的结果相匹配。
• 通过恢复k个最大系数，将框架扩展至近似稀疏信号，且在最小测量数下实现。

提出的方法

• 将支持恢复表述为约束ℓ1-最小化问题：min ‖Z‖1，满足Y = GZ，其中Y为含噪测量向量，G为随机投影矩阵。
• 对解Z应用阈值操作，以估计原始信号X的支持。
• 利用无噪ℓ1问题的扰动分析，推导出在含噪条件下的理论保证。
• 证明当SNR按O(log n)缩放且测量数m按O(k log n/k)缩放时，该方法可实现完美重构。
• 采用一种保持无噪情况下最大可实现稀疏度水平的证明策略，即使在含噪条件下亦成立。
• 通过聚焦于恢复k个最大系数，将框架扩展至近似稀疏信号，假设信号具有适当的结构。

实验结果

研究问题

• RQ1 是否可在SNR随信号维度n对数缩放的条件下实现支持恢复？
• RQ2 在含噪条件下，恢复k-稀疏信号符号模式所需的最少随机投影数是多少？
• RQ3 该方法在含噪条件下能否实现与无噪ℓ1问题相当的稀疏度水平？
• RQ4 与LASSO和MAX-Correlation相比，该方法在SNR和稀疏性约束下的性能如何？
• RQ5 该方法能否在O(k log n/k)组测量下恢复非稀疏信号的k个最大系数？

主要发现

• 该方法在SNR = O(log n)时可保证对k-稀疏信号实现完美的符号模式恢复，显著低于先前方法的要求。
• 所需测量数为m = O(k log n/k)，与无噪ℓ1恢复的理论最小值一致。
• 在含噪环境下可实现的最大稀疏度水平与无噪情况相当，表明基本可恢复性未受损。
• 该方法优于LASSO和MAX-Correlation技术，后者需更高的SNR或次线性稀疏性假设。
• 对于近似稀疏信号，可在某些信号类别下，通过O(k log n/k)组随机投影恢复k个最大系数。
• 理论分析提供了精确表征，表明在给定框架下，SNR或稀疏度比均无法显著改进。