[论文解读] New Analysis of Manifold Embeddings and Signal Recovery from Compressive Measurements

Armin Eftekhari, Michael B. Wakin|arXiv (Cornell University)|Jun 20, 2013

Sparse and Compressive Sensing Techniques参考文献 50被引用 4

一句话总结

该论文通过使用流形模型而非稀疏性来分析压缩测量下的信号恢复，推进了压缩感知。它在 ℓ₂ 范数下建立了概率性和确定性实例最优界，证明了低维流形可在随机投影下被准确嵌入，且在概率设定下具有更强的保证——验证了流形模型在压缩信号处理中的有效性。

ABSTRACT

Compressive Sensing (CS) exploits the surprising fact that the information contained in a sparse signal can be preserved in a small number of compressive, often random linear measurements of that signal. Strong theoretical guarantees have been established concerning the embedding of a sparse signal family under a random measurement operator and on the accuracy to which sparse signals can be recovered from noisy compressive measurements. In this paper, we address similar questions in the context of a different modeling framework. Instead of sparse models, we focus on the broad class of manifold models, which can arise in both parametric and non-parametric signal families. Using tools from the theory of empirical processes, we improve upon previous results concerning the embedding of low-dimensional manifolds under random measurement operators. We also establish both deterministic and probabilistic instance-optimal bounds in $\ell_2$ for manifold-based signal recovery and parameter estimation from noisy compressive measurements. In line with analogous results for sparsity-based CS, we conclude that much stronger bounds are possible in the probabilistic setting. Our work supports the growing evidence that manifold-based models can be used with high accuracy in compressive signal processing.

研究动机与目标

• 将压缩感知理论从稀疏性扩展到参数和非参数信号族中出现的一般低维流形模型。
• 利用经验过程理论的工具，改进对低维流形在随机线性测量下嵌入方式的理论理解。
• 为从噪声压缩测量中恢复信号和参数估计，建立 ℓ₂ 范数下的实例最优恢复界。
• 比较确定性和概率性恢复保证，表明在相同条件下，概率性界显著更强。
• 为实际压缩信号处理应用中使用基于流形的模型提供理论支持。

提出的方法

• 使用经验过程理论分析随机测量算子 Φ ∈ ℝᴹˣᴺ（其中 M ≪ N）下 K 维流形的嵌入。
• 推导出信号恢复的 ℓ₂ 范数下概率性实例最优界，表明重构误差与到真实信号的距离及噪声水平成比例。
• 应用三角不等式和集中不等式，以有噪声测量下真实信号 x 与估计值 x̂ 之间的 ℓ₂ 误差建立上界。
• 引入一个关于真实信号与其最近流形点（x*）之间距离和噪声水平的条件，以确保稳定恢复。
• 利用涉及流形距离 dₘ(·,·) 的几何论证，将 ℓ₂ 误差与内在流形距离关联起来，假设估计信号位于局部邻域内。
• 结合多个误差界，并应用 (1−ε) 的逆，推导出紧致的 ℓ₂ 重构误差界，显式依赖于 M/N、ε 和噪声。

实验结果

研究问题

• RQ1 低维流形在随机线性测量下如何嵌入？此类嵌入的理论保证是什么？
• RQ2 能否为基于流形的信号模型建立类似于已知稀疏信号的实例最优 ℓ₂ 恢复界？
• RQ3 在流形模型框架下，确定性与概率性恢复保证的相对强度如何？
• RQ4 在压缩测量中，重构误差如何依赖于到流形的距离和噪声水平？
• RQ5 在何种条件下，可从有噪声的压缩测量中稳定地执行流形上的参数估计？

主要发现

• 论文建立了概率性实例最优 ℓ₂ 界：‖x − x̂‖ ≤ (1 + 3ε)‖x − x*‖ + (2 + 4ε)‖n‖ + ετ/40，该界在高概率下成立，且 ε ≤ 1/3。
• 更强的界为 ‖x − x̂‖ ≤ min((1 + 3ε)‖x − x*‖ + ετ/40, (1 + 2ε)(2√(N/M) + 5)‖x − x*‖) + (2 + 4ε)‖n‖，该界成立概率至少为 1 − 4ρ。
• 对于参数估计，当 ℓ₂ 误差相对于流形的条件数 τ 较小时，流形距离 dₘ( x̂, x* ) 满足 τ − τ√(1 − 2‖x̂ − x*‖/τ) 的上界。
• 分析表明，概率性恢复保证显著强于确定性保证，类似于稀疏压缩感知中的结果。
• 在测量矩阵 Φ 满足流形的限制等距性（RIP）的假设下，界是紧致的，且当 M ≳ K log(N/K) 时以高概率成立。
• 结果证实，基于流形的模型可在压缩信号处理中以高精度使用，支持其在成像和传感器网络等实际应用中的使用。