[论文解读] Recovery of Sparse Signals Using Multiple Orthogonal Least Squares

Jian Wang, Ping Li|arXiv (Cornell University)|Oct 9, 2014

Sparse and Compressive Sensing Techniques参考文献 42被引用 3

一句话总结

本文提出多重正交匹配追踪（MOLS），一种贪心稀疏恢复算法，通过在每次迭代中选择多个支持索引以加速收敛并提高计算效率。理论上，若测量矩阵满足限制等距性质（RIP）且满足 $\delta_{LK} < \frac{\sqrt{L}}{\sqrt{K}+2\sqrt{L}}$，则MOLS可在 $K$ 次迭代内保证对 $K$-稀疏信号的精确恢复；在稀疏度与信噪比（SNR）呈线性关系的条件下，可实现稳定恢复。

ABSTRACT

We study the problem of recovering sparse signals from compressed linear measurements. This problem, often referred to as sparse recovery or sparse reconstruction, has generated a great deal of interest in recent years. To recover the sparse signals, we propose a new method called multiple orthogonal least squares (MOLS), which extends the well-known orthogonal least squares (OLS) algorithm by allowing multiple $L$ indices to be chosen per iteration. Owing to inclusion of multiple support indices in each selection, the MOLS algorithm converges in much fewer iterations and improves the computational efficiency over the conventional OLS algorithm. Theoretical analysis shows that MOLS ($L &gt; 1$) performs exact recovery of all $K$-sparse signals within $K$ iterations if the measurement matrix satisfies the restricted isometry property (RIP) with isometry constant $δ_{LK} &lt; \frac{\sqrt{L}}{\sqrt{K} + 2 \sqrt{L}}.$ The recovery performance of MOLS in the noisy scenario is also studied. It is shown that stable recovery of sparse signals can be achieved with the MOLS algorithm when the signal-to-noise ratio (SNR) scales linearly with the sparsity level of input signals.

研究动机与目标

• 为解决传统OLS计算效率低下的问题，通过多索引选择加速收敛。
• 提高压缩测量下稀疏信号重建的恢复精度并减少迭代次数。
• 建立MOLS实现稀疏信号精确与稳定恢复的理论条件。
• 通过允许每轮迭代同时选择 $L > 1$ 个索引，扩展OLS框架，从而在性能上超越OMP和OLS。

提出的方法

• MOLS通过在当前支持集的所有可能 $L$-元素扩展中最小化残差能量，每轮迭代选择 $L$ 个索引。
• 在每轮迭代中，算法识别出集合 $\mathcal{S}^k$，即当其添加到当前支持 $\mathcal{T}^{k-1}$ 时能最大程度降低残差能量的 $L$ 个索引。
• 通过将信号估计 $\mathbf{x}^k$ 投影到更新后支持 $\mathcal{T}^k$ 上的最小二乘法计算，确保每一步的系数估计最优。
• 残差更新为 $\mathbf{r}^k = \mathbf{y} - \mathbf{\Phi} \mathbf{x}^k$，并持续该过程直至收敛或达到 $K$ 次迭代。
• 理论分析利用限制等距性质（RIP）来界定残差减少量并推导恢复条件。
• 关键组件是基于投影的残差最小化，确保正交更新，从而比OMP或OLS具有更快的收敛速度。

实验结果

研究问题

• RQ1 在OLS中每轮迭代选择多个索引是否能显著减少精确稀疏信号恢复所需的迭代次数？
• RQ2 测量矩阵在RIP条件下的理论约束是什么，可保证使用MOLS实现精确恢复？
• RQ3 信噪比（SNR）如何影响MOLS在噪声环境下的稳定恢复性能？
• RQ4 在相同条件下，MOLS是否在计算效率和恢复精度上优于OLS和OMP？

主要发现

• 若测量矩阵满足 $\delta_{LK} < \frac{\sqrt{L}}{\sqrt{K}+2\sqrt{L}}$，MOLS可在 $K$ 次迭代内实现所有 $K$-稀疏信号的精确恢复。
• 由于每轮迭代选择 $L > 1$ 个索引，MOLS的收敛迭代次数显著少于OLS，从而提高了计算效率。
• 在噪声环境中，当信噪比（SNR）与输入信号稀疏度 $K$ 呈线性关系时，可实现稳定恢复。
• 理论分析证实，MOLS通过每步正交投影最小化残差能量，保持了强收敛特性。
• MOLS在收敛速度和恢复精度上均优于OMP和OLS，尤其在高稀疏度场景下表现更优。
• 该方法对噪声具有鲁棒性，在适当的SNR条件下恢复误差有界，确保了实际应用中的可靠性能。