[论文解读] Robust Uncertainty Principles: Exact Signal Reconstruction from Highly Incomplete Frequency Information

Emmanuel J. Candès, Justin Romberg+1 more|ArXiv.org|Sep 10, 2004

Sparse and Compressive Sensing Techniques参考文献 18被引用 67

一句话总结

本文证明，通过凸优化（特别是ℓ¹-最小化），可从接近最小数量的随机傅里叶样本中精确重构稀疏信号。关键结果表明，当信号的支撑集大小被限制为样本数除以log N 的常数倍时，以高概率可实现精确恢复，从而对不完整的频率信息具有鲁棒性。

ABSTRACT

This paper considers the model problem of reconstructing an object from incomplete frequency samples. Consider a discrete-time signal $f \in \C^N$ and a randomly chosen set of frequencies $Ω$ of mean size $τN$. Is it possible to reconstruct $f$ from the partial knowledge of its Fourier coefficients on the set $Ω$? A typical result of this paper is as follows: for each $M > 0$, suppose that $f$ obeys $$ # \{t, f(t) eq 0 \} \le α(M) \cdot (\log N)^{-1} \cdot # Ω, $$ then with probability at least $1-O(N^{-M})$, $f$ can be reconstructed exactly as the solution to the $\ell_1$ minimization problem $$ \min_g \sum_{t = 0}^{N-1} |g(t)|, \quad ext{s.t.} \hat g(ω) = \hat f(ω) ext{for all} ω\in Ω. $$ In short, exact recovery may be obtained by solving a convex optimization problem. We give numerical values for $α$ which depends on the desired probability of success; except for the logarithmic factor, the condition on the size of the support is sharp. The methodology extends to a variety of other setups and higher dimensions. For example, we show how one can reconstruct a piecewise constant (one or two-dimensional) object from incomplete frequency samples--provided that the number of jumps (discontinuities) obeys the condition above--by minimizing other convex functionals such as the total-variation of $f$.

研究动机与目标

• 解决从高度不完整的频率信息中重构信号这一基本问题。
• 建立在傅里叶样本有限的条件下，精确重构成为可能的条件。
• 证明凸优化（尤其是ℓ¹-最小化）可实现稀疏信号的精确恢复。
• 将该框架扩展至高维信号及其他促进稀疏性的泛函（如总变差）。
• 即使采样率远低于奈奎斯特率，也提供高概率恢复的理论保证。

提出的方法

• 提出通过ℓ¹-最小化重构信号：在匹配Ω上观测到的傅里叶系数的前提下，最小化∑|g(t)|。
• 采用均值大小为τN的频率随机采样，以确保非相干性并避免混叠。
• 应用对偶性和随机矩阵理论，以界定成功恢复的概率。
• 当信号的支撑集大小被限制为α(M)·(log N)⁻¹·|Ω|时，证明恢复以高概率1 - O(N⁻ᴹ)成功。
• 将框架扩展至一维和二维中分段常数图像的总变差最小化。
• 采用等价类分析和矩计算，以界定重构算子期望范数的上界，从而证明其稳定性和鲁棒性。

实验结果

研究问题

• RQ1 能否从少量随机选取的傅里叶系数中精确重构稀疏信号？
• RQ2 为保证以高概率实现精确恢复，所需的最少随机频率样本数是多少？
• RQ3 与零填充或滤波反投影等经典方法相比，ℓ¹-最小化在重构保真度方面表现如何？
• RQ4 该框架能否推广至非稀疏但具有结构的信号（如分段常数图像）？
• RQ5 稀疏性边界中的对数因子起什么作用？该因子是否紧致？

主要发现

• 当非零信号分量的数量被限制为α(M)·(log N)⁻¹·|Ω|时，以高概率（1 - O(N⁻ᴹ)）可实现精确信号恢复，其中|Ω|为观测到的频率数量。
• 所需样本数近乎最优——在对数因子范围内，稀疏性条件是紧致的。
• ℓ¹-最小化方法优于经典方法（如零填充），后者因角度欠采样而产生严重伪影。
• 该方法可推广至高维情形及其他促进稀疏性的泛函（如分段常数图像的总变差）。
• 通过随机矩阵理论和矩界，建立了理论保证，表明重构算子的范数在高概率下较小。
• 数值实验表明，即使采样率远低于奈奎斯特率，总变差最小化仍能精确恢复图像。