[论文解读] Exact recoverability from dense corrupted observations via $L_1$ minimization

Nam H. Nguyen, Trac D. Tran|arXiv (Cornell University)|Feb 7, 2011

Sparse and Compressive Sensing Techniques参考文献 35被引用 13

一句话总结

本论文表明，当测量矩阵是正交矩阵的随机子矩阵时，即使近100%的观测值被严重损坏，$∜_1$-最小化仍能精确恢复稀疏信号。关键结果表明，在$m = C\mu^2k(\log n)^2$组测量下可实现精确恢复，其中$μ$衡量矩阵的相干性，$k$为信号的稀疏度。

ABSTRACT

This paper confirms a surprising phenomenon first observed by Wright extit{et al.} \cite{WYGSM_Face_2009_J} \cite{WM_denseError_2010_J} under different setting: given $m$ highly corrupted measurements $y = A_{Ω\bullet} x^{\star} + e^{\star}$, where $A_{Ω\bullet}$ is a submatrix whose rows are selected uniformly at random from rows of an orthogonal matrix $A$ and $e^{\star}$ is an unknown sparse error vector whose nonzero entries may be unbounded, we show that with high probability $\ell_1$-minimization can recover the sparse signal of interest $x^{\star}$ exactly from only $m = C μ^2 k (\log n)^2$ where $k$ is the number of nonzero components of $x^{\star}$ and $μ= n \max_{ij} A_{ij}^2$, even if nearly 100% of the measurements are corrupted. We further guarantee that stable recovery is possible when measurements are polluted by both gross sparse and small dense errors: $y = A_{Ω\bullet} x^{\star} + e^{\star}+ ν$ where $ν$ is the small dense noise with bounded energy. Numerous simulation results under various settings are also presented to verify the validity of the theory as well as to illustrate the promising potential of the proposed framework.

研究动机与目标

• 为解决在稀疏但幅度任意大的误差下恢复稀疏信号的挑战，该场景在图像处理和传感器网络等实际应用中十分常见。
• 将现有的压缩感知理论从仅考虑小范围密集噪声扩展到包含具有无界幅值的显著稀疏误差的情形。
• 在比完全随机矩阵更现实且结构化的测量模型下，为使用$\\ell_1$-最小化实现精确恢复建立理论保证。
• 分析当测量矩阵是正交矩阵的随机子矩阵时，$\\ell_1$-最小化的性能，该模型在MRI和层析成像等应用中更具实用性。
• 为在存在稀疏显著误差和小范围密集噪声的双重干扰下实现鲁棒信号恢复提供理论基础，确保稳定且精确的重建。

提出的方法

• 提出一种凸优化框架，联合最小化信号$x$和误差向量$e$的$\\ell_1$-范数，求解$\min_{x,e} \|x\|_1 + \|e\|_1$，约束条件为$y = Ax + e$。
• 利用一种适用于密集损坏情形的受限等距性质变体分析恢复保证，重点关注相干性参数$\mu = n \max_{ij} A_{ij}^2$。
• 采用塔拉格兰德（Talagrand）的集中不等式，对独立随机变量之和的上确界进行有界，从而在高概率下控制恢复误差。
• 推导出对偶证书范数的概率界，确保$\\ell_1$-最小化问题的解以高概率匹配真实的稀疏信号$x^*$。
• 利用詹森不等式（Jensen’s inequality）和矩阵集中技术，控制从正交矩阵中随机采样行时对偶证书范数的期望值。
• 证明测量数$m$的量级为$C\mu^2k(\log n)^2$，即使在极端损坏情况下，也远小于环境维数$n$。

实验结果

研究问题

• RQ1 当近100%的测量值被具有无界幅值的稀疏误差损坏时，$\\ell_1$-最小化能否精确恢复稀疏信号？
• RQ2 在极端损坏条件下，精确恢复所需的最小测量数是多少？其与相干性$\mu$和稀疏度$k$的关系如何？
• RQ3 当测量矩阵是正交矩阵的随机子矩阵而非完全随机矩阵时，恢复保证是否依然成立？
• RQ4 当测量值同时受稀疏显著误差和小范围密集噪声影响时，能否实现稳定恢复？
• RQ5 在高损坏水平和结构化测量矩阵下，$\\ell_1$-最小化的理论性能与现有方法相比如何？

主要发现

• 即使近100%的测量值被具有无界条目值的稀疏误差损坏，仍能以高概率通过$m = C\mu^2k(\log n)^2$组测量精确恢复$k$-稀疏信号$x^*$。
• 恢复保证适用于从正交矩阵中随机采样行构成的测量矩阵，相较于先前工作中使用的完全随机矩阵更具实用性。
• 测量数的上界依赖于相干性$\mu = n \max_{ij} A_{ij}^2$，表明低相干性矩阵在精确恢复时需要更少的测量。
• 当测量值受稀疏显著误差和能量有界的密集噪声共同影响时，可实现稳定恢复，且重建误差与噪声水平成比例增长。
• 理论分析证实，即使在极端损坏条件下，$\\ell_1$-最小化依然有效，优于仅假设小范围有界噪声的标准方法。
• 数值模拟在多种设置下验证了理论结果，展示了所提框架的鲁棒性与实际应用潜力。