[论文解读] Iterative Null-space Projection Method with Adaptive Thresholding in Sparse Signal Recovery and Matrix Completion

Ashkan Esmaeili, Ehsan Asadi+1 more|arXiv (Cornell University)|Oct 2, 2016

Sparse and Compressive Sensing Techniques参考文献 16被引用 11

一句话总结

本文提出了一种新型稀疏信号恢复算法——自适应阈值迭代空投影法（INPMAT），通过将阈值化估计值迭代投影到感知矩阵的零空间中，提升重建精度。该方法在低采样率下显著优于LASSO、OMP和IMAT，在测量值接近信号稀疏度两倍时，输出信噪比（SNR）最高可达80 dB。

ABSTRACT

Adaptive thresholding methods have proved to yield high SNRs and fast convergence in finding the solution to the Compressed Sensing (CS) problems. Recently, it was observed that the robustness of a class of iterative sparse recovery algorithms such as Iterative Method with Adaptive Thresholding (IMAT) has outperformed the well-known LASSO algorithm in terms of reconstruction quality, convergence speed, and the sensitivity to the noise. In this paper, we introduce a new method towards solving the CS problem. The logic of this method is based on iterative projections of the thresholded signal onto the null-space of the sensing matrix. The thresholding is carried out by recovering the support of the desired signal by projection on thresholding subspaces. The simulations reveal that the proposed method has the capability of yielding noticeable output SNR values with about as many samples as twice the sparsity number, while other methods fail to recover the signals when approaching the algebraic bound for the number of samples required. The computational complexity of our method is also comparable to other methods as observed in the simulations. We have also extended our Algorithm to Matrix Completion (MC) scenarios and compared its efficiency to other well-reputed approaches for MC in the literature.

研究动机与目标

• 开发一种更鲁棒且更快的稀疏信号恢复算法，使其在噪声环境中优于LASSO和OMP等现有方法。
• 解决传统方法在低采样率区域的局限性，即当测量数接近信号稀疏度两倍时恢复失败的问题。
• 将所提方法扩展至矩阵补全（MC）场景，提升性能，优于Soft-Impute和SVT等成熟技术。
• 消除迭代步骤中对伪逆计算的依赖，提升计算效率与数值稳定性。
• 探究在稀疏恢复中，随机采样（RS）相较于高斯测量矩阵的优越性，尤其在低采样率下。

提出的方法

• 该方法对当前信号估计值迭代应用自适应阈值处理，仅保留最显著的分量。
• 阈值化后，算法将所得信号投影到感知矩阵Φ的零空间中，以满足约束条件y = Φx。
• 投影步骤确保更新后的估计值与测量方程保持一致，同时促进稀疏性。
• 自适应阈值通过指数方式降低阈值，实现向最稀疏解的收敛。
• 该方法通过将相同的零空间投影与自适应阈值处理原理应用于低秩矩阵重建，扩展至矩阵补全。
• 该方法避免在每次迭代中显式计算伪逆，从而提升数值稳定性并降低计算成本。

实验结果

研究问题

• RQ1 在稀疏信号恢复中，迭代空投影结合自适应阈值是否能实现优于LASSO、OMP和IMAT的信号重建信噪比（SNR）？
• RQ2 在低采样率下，所提方法在随机采样（RS）与高斯测量矩阵之间的性能表现如何比较？
• RQ3 所提方法在多大程度上优于当前最先进的矩阵补全算法（如Soft-Impute、SVT和SL0）？
• RQ4 与现有方法相比，迭代过程中省去伪逆计算是否能提升鲁棒性与收敛速度？
• RQ5 当测量数接近信号稀疏度两倍时，成功恢复的理论与经验阈值是什么？

主要发现

• 当测量数接近信号稀疏度两倍时，所提INPMAT方法的输出信噪比（SNR）最高可达80 dB，而其他方法在此区域完全无法恢复信号。
• 在矩阵补全中，MIMAT（矩阵补全变体）在65%数据缺失时RMSE为0，优于SVT（RMSE ≈ 0.3）和Soft-Impute（RMSE > 0.2）。
• 在25%采样率下，随机采样（RS）实现80 dB输出SNR，而高斯测量矩阵完全无法重建信号。
• 在采样率高于50%时，RS与高斯测量表现相近，但RS在低采样率下始终优于高斯测量。
• 在缺失数据比例超过80%时，所提方法在矩阵补全中优于SL0，RMSE比SL0低0.2。
• 运行时间分析表明，INPMAT的执行时间从未超过同类方法中最短运行时间的两倍，表明其具备良好的计算效率。