[论文解读] A Sharp Condition for Exact Support Recovery of Sparse Signals With Orthogonal Matching Pursuit

Jinming Wen, Zhengchun Zhou+3 more|arXiv (Cornell University)|Jul 10, 2018

Sparse and Compressive Sensing Techniques参考文献 21被引用 5

一句话总结

本文在 $ l_2 $-有界噪声下，为使用正交匹配追踪（OMP）实现稀疏信号的精确支持恢复建立了严格的充分条件。证明表明，若测量矩阵满足 $ \delta_{K+1} < \frac{1}{\sqrt{K+1}} $，且最小非零信号幅值超过推导出的阈值，则 OMP 可在 $ K $ 次迭代内精确恢复支持。该条件为最优，因为当 $ \delta_{K+1} \geq \frac{1}{\sqrt{K+1}} $ 时，任何 $ K $-稀疏信号均可能失败，因此这是目前已知在噪声环境下 OMP 的最紧致的 RIP 基础界。

ABSTRACT

Support recovery of sparse signals from noisy measurements with orthogonal matching pursuit (OMP) has been extensively studied in the literature. In this paper, we show that for any $K$-sparse signal $\x$, if the sensing matrix $\A$ satisfies the restricted isometry property (RIP) of order $K + 1$ with restricted isometry constant (RIC) $δ_{K+1} &lt; 1/\sqrt {K+1}$, then under some constraint on the minimum magnitude of the nonzero elements of $\x$, the OMP algorithm exactly recovers the support of $\x$ from the measurements $\y=\A\x+\v$ in $K$ iterations, where $\v$ is the noise vector. This condition is sharp in terms of $δ_{K+1}$ since for any given positive integer $K\geq 2$ and any $1/\sqrt{K+1}\leq t&lt;1$, there always exist a $K$-sparse $\x$ and a matrix $\A$ satisfying $δ_{K+1}=t$ for which OMP may fail to recover the signal $\x$ in $K$ iterations. Moreover, the constraint on the minimum magnitude of the nonzero elements of $\x$ is weaker than existing results.

研究动机与目标

• 建立受限等距常数（RIC）$ \delta_{K+1} $ 的紧致、尖锐条件，以保证在 $ l_2 $-有界噪声下通过 OMP 实现 $ K $-稀疏信号的精确支持恢复。
• 通过降低对非零信号分量最小幅值的下限要求，改进现有 OMP 的充分条件。
• 通过构造反例证明所提条件的尖锐性：当 $ \delta_{K+1} \geq \frac{1}{\sqrt{K+1}} $ 时，OMP 在某些 $ K $-稀疏信号和测量矩阵下会失败，从而证明其最优性。
• 提供一个统一且强化的理论框架，以整合并加强以往关于 OMP 恢复保证的研究成果，特别是在噪声压缩感知场景下。

提出的方法

• 推导出在 $ l_2 $-有界噪声下，使用 OMP 实现 $ K $-稀疏信号精确支持恢复的 $ \delta_{K+1} $ 充分条件。
• 提出一种基于残差误差和当前支持估计正交补空间投影的新型分析框架。
• 利用 RIP 限制残差向量与当前支持外测量矩阵列之间的相关性。
• 在每次 OMP 迭代中建立最大相关性幅值的下界，以确保正确选择支持。
• 采用基于残差范数 $ \|\boldsymbol{r}^k\|_2 > \epsilon $ 的停止准则，确保算法仅在完全恢复支持后才终止。
• 采用构造性证明方法，表明对任意 $ K \geq 2 $ 和 $ t \in [1/\sqrt{K+1}, 1) $，均存在满足 $ \delta_{K+1} = t $ 的信号和矩阵，使得 OMP 失败，从而证明其尖锐性。

实验结果

研究问题

• RQ1 在 $ l_2 $-有界噪声下，$ \delta_{K+1} $ 的最紧致上界是什么，才能保证通过 OMP 实现 $ K $-稀疏信号的精确支持恢复？
• RQ2 在相同 RIP 条件下，所提方法对非零信号分量最小幅值的要求与以往结果相比如何？
• RQ3 所提条件是否可被证明为尖锐，即是否存在某些 $ K $-稀疏信号和测量矩阵，使得当 $ \delta_{K+1} \geq \frac{1}{\sqrt{K+1}} $ 时 OMP 必然失败？
• RQ4 所提条件在 $ \delta_{K+1} $ 和信号幅值约束两方面是否优于现有充分条件？
• RQ5 在噪声条件下，残差范数与 OMP 停止准则之间的关系是什么？其对支持恢复有何影响？

主要发现

• 当噪声向量 $ \boldsymbol{v} $ 的 $ l_2 $-范数有界于 $ \epsilon $ 时，条件 $ \delta_{K+1} < \frac{1}{\sqrt{K+1}} $ 足够保证 OMP 在 $ K $ 次迭代内精确恢复任意 $ K $-稀疏信号 $ \boldsymbol{x} $ 的支持。
• 对 $ \boldsymbol{x} $ 中非零分量最小幅值的下限要求弱于以往工作（如文献 [17] 推导的边界），使该条件更具实用性。
• 条件 $ \delta_{K+1} < \frac{1}{\sqrt{K+1}} $ 是尖锐的：对任意 $ K \geq 2 $ 及任意 $ t \in [\frac{1}{\sqrt{K+1}}, 1) $，均存在一个 $ K $-稀疏信号 $ \boldsymbol{x} $ 和一个测量矩阵 $ \boldsymbol{A} $，使得 $ \delta_{K+1} = t $ 时 OMP 无法在 $ K $ 次迭代内恢复支持。
• 所提条件优于以往最佳已知边界 $ \delta_{K+1} < \frac{\sqrt{4K+1}-1}{2K} $，因为对所有 $ K \geq 2 $，均有 $ \frac{\sqrt{4K+1}-1}{2K} < \frac{1}{\sqrt{K+1}} $，表明成功恢复的可行区域更大。
• 分析表明，在所提条件下，不等式 $ \frac{2\epsilon}{1 - \sqrt{K+1}\delta_{K+1}} \leq \frac{(\sqrt{1+\delta_{K+1}}+1)\epsilon}{1 - \delta_{K+1} - \sqrt{1 - \delta_{K+1}}\sqrt{K}\delta_{K+1}} $ 严格成立，确认了改进后的信号幅值阈值。
• 该结果无需对测量矩阵 $ \boldsymbol{A} $ 的列进行归一化，相较于以往假设列已归一化的研究，适用范围更广。