[论文解读] Stochastic Recovery Of Sparse Signals From Random Measurements

M. Andrecut|arXiv (Cornell University)|Apr 7, 2013

Sparse and Compressive Sensing Techniques参考文献 9被引用 3

一句话总结

该论文提出了一种随机优化（SO）方法，用于从随机测量中恢复稀疏信号，利用基于谱熵的加权ℓ₁范数引导搜索聚焦于非零信号分量。该方法在计算复杂度较低的情况下实现了高精度恢复，相较于基追踪（BP）在实现简便性上更具优势，同时在低稀疏度水平下保持了具有竞争力的重建精度。

ABSTRACT

Sparse signal recovery from a small number of random measurements is a well known NP-hard to solve combinatorial optimization problem, with important applications in signal and image processing. The standard approach to the sparse signal recovery problem is based on the basis pursuit method. This approach requires the solution of a large convex optimization problem, and therefore suffers from high computational complexity. Here, we discuss a stochastic optimization method, as a low-complexity alternative to the basis pursuit approach.

研究动机与目标

• 通过提出一种低复杂度替代方法，解决压缩感知中基追踪（BP）的高计算复杂度问题。
• 通过随机优化框架克服稀疏信号恢复中ℓ₀最小化的NP难性质。
• 通过将谱熵引入目标函数，提升信号重建性能，优先关注非零分量。
• 通过将搜索空间缩减至测量矩阵的零空间，实现高效恢复。
• 证明以最小计算开销实现近似但高精度的信号恢复的可行性。

提出的方法

• 将目标函数表述为候选解的ℓ₁范数与谱熵的乘积，等价于加权ℓ₁范数。
• 使用阈值接受法（一种随机局部搜索算法），在保持线性约束系统可行性的同时，迭代扰动解。
• 使用测量矩阵的广义逆（Moore-Penrose伪逆）初始化解：$ x riangleq ilde{oldsymbol{ m extbackslash Phi}}^{ op} y $。
• 采用降温调度策略，逐步降低温度 $ \theta $ 和步长 $ \beta $，其中 $ \theta_{\text{new}} = \theta \times \rho $，$ \rho = (\theta_f / \theta_i)^{1/T} $。
• 在每次迭代中，使用零空间投影向量 $ \boldsymbol{q}^{(m)} $ 缩放的随机符号翻转来扰动解的每个分量，并基于阈值化的目标函数接受改进。
• 确保所有候选解满足 $ \tilde{oldsymbol{ m extbackslash Phi}}^T \tilde{x} = y $，将搜索限制在维度为 $ R = M - N $ 的零空间内。

实验结果

研究问题

• RQ1 与基追踪相比，该随机优化方法是否能在显著降低计算复杂度的前提下实现具有竞争力的稀疏信号恢复性能？
• RQ2 将谱熵引入目标函数在多大程度上提升了收敛速度与重建精度？
• RQ3 稀疏度水平 $ K $ 和测量数 $ N $ 对所提随机框架中重建误差的影响如何？
• RQ4 该方法在优化过程中在多大程度上保持了解的可行性？
• RQ5 所提方法是否在 $ K/N $ 比值变化时表现出与基追踪类似的重建误差相变现象？

主要发现

• 当 $ M = 100 $，$ N = 50 $，且 $ K = 20 $ 时，重建误差为 $ 8.532 \times 10^{-4}\% $，表明在低稀疏度下实现了近乎完美的重建。
• 当稀疏度增加至 $ K = 25 $ 时，误差上升至 $ 3.145\% $，在 $ K = 30 $ 时进一步增至 $ 11.329\% $，表明性能存在明显的相变现象。
• 在 $ K $-$ N $ 参数空间的广大区域内，该方法实现了平均重建误差低于10%的性能，如图3所示的相变图所示。
• 恒定误差的等高线显示出对 $ K $ 和 $ N $ 的对数依赖关系，与基追踪中观察到的现象相似，表明具有可比的理论行为。
• 该算法将搜索空间从 $ \mathbb{R}^M $ 降低至 $ \mathbb{R}^R $，其中 $ R = M - N $，通过将更新限制在零空间内，显著提升了效率。
• 通过自信息（来自谱熵）对目标函数进行加权，有效引导搜索聚焦于非零分量，从而增强了收敛性与精度。