[论文解读] Guarantees of Total Variation Minimization for Signal Recovery

Jian‐Feng Cai, Weiyu Xu|arXiv (Cornell University)|Jan 28, 2013

Sparse and Compressive Sensing Techniques参考文献 24被引用 7

一句话总结

该论文为从压缩测量中恢复一维信号的总变差（TV）最小化方法提供了理论保证。利用格拉斯曼角框架和基于“通过网格逃逸”定理的高斯宽度估计，证明了可恢复梯度稀疏度随信号维度线性增长，并表明 $ M = \Omega((NK)^{1/2}) $ 个测量值已足够，该结果低于标准 $ \ell_1 $-最小化中的 $ O(K\log(N/K)) $ 边界。

ABSTRACT

In this paper, we consider using total variation minimization to recover signals whose gradients have a sparse support, from a small number of measurements. We establish the proof for the performance guarantee of total variation (TV) minimization in recovering \emph{one-dimensional} signal with sparse gradient support. This partially answers the open problem of proving the fidelity of total variation minimization in such a setting \cite{TVMulti}. In particular, we have shown that the recoverable gradient sparsity can grow linearly with the signal dimension when TV minimization is used. Recoverable sparsity thresholds of TV minimization are explicitly computed for 1-dimensional signal by using the Grassmann angle framework. We also extend our results to TV minimization for multidimensional signals. Stability of recovering signal itself using 1-D TV minimization has also been established through a property called "almost Euclidean property for 1-dimensional TV norm". We further give a lower bound on the number of random Gaussian measurements for recovering 1-dimensional signal vectors with $N$ elements and $K$-sparse gradients. Interestingly, the number of needed measurements is lower bounded by $Ω((NK)^{\frac{1}{2}})$, rather than the $O(K\log(N/K))$ bound frequently appearing in recovering $K$-sparse signal vectors.

研究动机与目标

• 为恢复具有稀疏梯度的一维信号的总变差（TV）最小化方法建立性能保证。
• 解决关于一维信号中TV最小化保真度的开放问题。
• 利用格拉斯曼角框架计算一维TV最小化中显式的可恢复梯度稀疏度阈值。
• 将结果扩展至高维信号，并在噪声测量或近似稀疏梯度下建立稳定性。
• 推导出成功恢复所需随机高斯测量数的下限。

提出的方法

• 使用测量矩阵 $ A $ 的零空间条件，避免依赖受限等距性质。
• 应用“通过网格逃逸”定理，估计由零空间条件定义的锥体的高斯宽度。
• 采用格拉斯曼角框架，计算一维信号中可恢复梯度稀疏度的精确阈值。
• 引入一维TV范数的“近乎欧几里得性质”，以在噪声或近似稀疏性条件下建立信号恢复的稳定性。
• 通过将梯度支持分解为二进制立方体，并估计高维空间中的高斯宽度，将分析扩展至 $ d $-维信号。
• 通过分析高斯向量与结构化子空间的期望内积，推导测量数 $ M $ 的边界。

实验结果

研究问题

• RQ1 TV最小化能否从亚线性数量的测量中稳定恢复具有 $ K $-稀疏梯度的一维信号？
• RQ2 使用随机高斯测量时，一维TV最小化中可恢复梯度稀疏度的精确阈值是什么？
• RQ3 与稀疏信号恢复中的标准 $ \ell_1 $-最小化相比，TV最小化所需的测量数有何差异？
• RQ4 一维TV范数的“近乎欧几里得性质”能否用于证明在噪声或近似稀疏设置下的稳定性？
• RQ5 在高维信号中，TV最小化所需的测量要求是什么？可恢复稀疏度是否随信号维度线性增长？

主要发现

• 对于一维信号，TV最小化下的可恢复梯度稀疏度可随信号维度 $ N $ 线性增长，这显著优于标准 $ \ell_1 $-最小化方法。
• 所需随机高斯测量数的下限为 $ \Omega((NK)^{1/2}) $，低于稀疏信号恢复中典型的 $ O(K\log(N/K)) $ 边界。
• 利用格拉斯曼角框架计算出了一维TV最小化中显式的可恢复稀疏度阈值，从而对恢复性能提供了精确表征。
• 通过TV范数的“近乎欧几里得性质”建立了基于一维TV最小化的信号恢复稳定性，确保了在噪声或近似稀疏性下的鲁棒性。
• 对于 $ d $-维信号，当 $ d=2 $ 时，所需测量数约为 $ M \sim K\log^2 N $，当 $ d>2 $ 时约为 $ M \sim K\ln N $，表明在高维情况下具有有利的缩放特性。
• 目前结果仅限于高斯测量矩阵，但作者推测，对于如部分傅里叶矩阵或伯努利矩阵等一般测量集合，可恢复稀疏度的线性缩放特性同样成立。