[论文解读] How Many Iterations are Needed for the Exact Recovery of Sparse Signals using Orthogonal Matching Pursuit

Jian Wang, Byonghyo Shim|arXiv (Cornell University)|Nov 19, 2012

Sparse and Compressive Sensing Techniques参考文献 14被引用 7

一句话总结

本文分析了正交匹配追踪（OMP）精确恢复 $K$-稀疏信号所需的迭代次数。当测量矩阵满足限制等距性质（RIP）时，证明 OMP 可在最多 $\lceil 2.8K \rceil$ 次迭代内实现精确恢复，优于以往的界，并逼近 OMP 性能的理论极限。

ABSTRACT

Orthogonal matching pursuit (OMP) is a greedy algorithm widely used for the recovery of sparse signals from compressed measurements. In this paper, we analyze the number of iterations required for the OMP algorithm to perform exact recovery of sparse signals. Our analysis shows that OMP can accurately recover all $K$-sparse signals within $\lceil 2.8 K ceil$ iterations when the measurement matrix satisfies a restricted isometry property (RIP). Our result improves upon the recent result of Zhang and also bridges the gap between Zhang's result and the fundamental limit of OMP at which exact recovery of $K$-sparse signals cannot be uniformly guaranteed.

研究动机与目标

• 确定 OMP 精确恢复 $K$-稀疏信号所需的最少迭代次数。
• 改进现有关于 OMP 迭代复杂度的理论界。
• 弥合已知 OMP 性能极限与均匀恢复理论根本极限之间的差距。
• 在受限等距性质（RIP）下建立 OMP 迭代次数的更紧上界。

提出的方法

• 利用受限等距性质（RIP）来约束测量矩阵在 OMP 迭代过程中的相干性和稳定性。
• 通过分析迭代过程中残差能量的衰减，推导出迭代次数的理论上限。
• 关键步骤在于证明：在满足 RIP 条件下，OMP 可在 $\lceil 2.8K \rceil$ 次迭代内选择出正确的支持索引。
• 采用最坏情况分析，以确保对所有 $K$-稀疏信号实现均匀恢复。
• 证明依赖于对残差向量与真实信号支持之间相关性的界进行控制。

实验结果

研究问题

• RQ1 在受限等距性质下，OMP 精确恢复任意 $K$-稀疏信号最多需要多少次迭代？
• RQ2 新提出的 OMP 迭代界与算法的理论根本极限相比如何？
• RQ3 能否将 OMP 的迭代复杂度进一步收紧，以逼近均匀恢复的已知性能上限？
• RQ4 受限等距性质在多大程度上能够实现 OMP 收敛性更紧的界？

主要发现

• 当测量矩阵满足受限等距性质（RIP）时，OMP 可在 $\lceil 2.8K \rceil$ 次迭代内精确恢复所有 $K$-稀疏信号。
• 该界优于 Zhang 的结果所给出的先前已知上界，更接近 OMP 的理论极限。
• 该结果建立了更紧、更准确的均匀恢复稀疏信号所需迭代复杂度的估计。
• 分析证实，RIP 条件足以保证在有限且可预测的迭代次数内实现精确恢复。