[论文解读] Remarks on the Restricted Isometry Property in Orthogonal Matching Pursuit algorithm

Qun Mo, Yi Shen|arXiv (Cornell University)|Jan 24, 2011

Sparse and Compressive Sensing Techniques参考文献 11被引用 12

一句话总结

本文建立了使用正交匹配追踪（OMP）精确恢复 K-稀疏信号的严格条件：若限制等距常数 δ_{K+1} 小于 1/(√K + 1)，则 OMP 可在 K 次迭代内恢复信号。反之，本文构造了 δ_{K+1} = 1/√K 的矩阵，其中 OMP 失败，从而证实了 Dai 和 Milenkovic 提出的猜想的紧致性。

ABSTRACT

This paper demonstrates theoretically that if the restricted isometry constant $δ_K$ of the compressed sensing matrix satisfies $$ δ_{K+1} < \frac{1}{\sqrt{K}+1}, $$ then a greedy algorithm called Orthogonal Matching Pursuit (OMP) can recover a signal with $K$ nonzero entries in $K$ iterations. In contrast, matrices are also constructed with restricted isometry constant $$ δ_{K+1} = \frac{1}{\sqrt{K}} $$ such that OMP can not recover $K$-sparse $x$ in $K$ iterations. This result shows that the conjecture given by Dai and Milenkovic is ture.

研究动机与目标

• 建立 OMP 在 K 次迭代内精确恢复 K-稀疏信号的理论条件。
• 研究 Dai 和 Milenkovic 关于 OMP 恢复的限制等距常数阈值猜想的紧致性。
• 构造显式反例，其中 OMP 尽管满足稍弱的 δ_{K+1} 条件，却无法恢复 K-稀疏信号。
• 解决关于 OMP 性能中 δ_{K+1} < 1/(√K + 1) 边界紧致性的开放问题。

提出的方法

• 在 OMP 算法收敛的背景下，对限制等距性质（RIP）进行理论分析。
• 推导出 OMP 在 K 次迭代内精确恢复 K-稀疏信号的充分条件 δ_{K+1} < 1/(√K + 1)。
• 构造一类压缩感知矩阵，使得 δ_{K+1} = 1/√K，以展示 OMP 的失败情形。
• 利用矩阵设计技术，确保构造的矩阵满足指定的 δ_{K+1} 值，同时违反 OMP 恢复。
• 将推导出的充分条件与构造的反例进行比较，以确立边界的紧致性。

实验结果

研究问题

• RQ1 OMP 在 K 次迭代内精确恢复 K-稀疏信号的 δ_{K+1} 的精确上界是什么？
• RQ2 关于 OMP 恢复的猜想边界 δ_{K+1} < 1/(√K + 1) 是否充分且必要？
• RQ3 能否构造出 δ_{K+1} = 1/√K 的矩阵，使得 OMP 在 K 次迭代内无法恢复 K-稀疏信号？
• RQ4 OMP 的性能如何依赖于 δ_{K+1} 相对于阈值 1/(√K + 1) 的取值？

主要发现

• 条件 δ_{K+1} < 1/(√K + 1) 对 OMP 在 K 次迭代内精确恢复任意 K-稀疏信号是充分的。
• 构造了一个反例，其中 δ_{K+1} = 1/√K，但 OMP 在 K 次迭代内无法恢复 K-稀疏信号。
• 所构造的反例证实，边界 δ_{K+1} < 1/(√K + 1) 是紧致的，无法进一步放宽。
• 该结果验证了 Dai 和 Milenkovic 关于 OMP 恢复条件紧致性的猜想。