[论文解读] Sparse Recovery of Positive Signals with Minimal Expansion

Moein Khajehnejad, Alexandros G. Dimakis+2 more|ArXiv.org|Feb 24, 2009

Sparse and Compressive Sensing Techniques参考文献 6被引用 25

一句话总结

本文提出了一种新颖的稀疏测量矩阵构造方法，利用扩展图的扰动邻接矩阵，以实现对非负稀疏信号的高效恢复。通过利用非负性约束，该方法在显著降低扩展系数的情况下成功实现了 $β$-最小化，从而支持更快的恢复算法，并具备紧密的理论保证，包括对噪声和近似稀疏性的鲁棒性。

ABSTRACT

We investigate the sparse recovery problem of reconstructing a high-dimensional non-negative sparse vector from lower dimensional linear measurements. While much work has focused on dense measurement matrices, sparse measurement schemes are crucial in applications, such as DNA microarrays and sensor networks, where dense measurements are not practically feasible. One possible construction uses the adjacency matrices of expander graphs, which often leads to recovery algorithms much more efficient than $\ell_1$ minimization. However, to date, constructions based on expanders have required very high expansion coefficients which can potentially make the construction of such graphs difficult and the size of the recoverable sets small. In this paper, we construct sparse measurement matrices for the recovery of non-negative vectors, using perturbations of the adjacency matrix of an expander graph with much smaller expansion coefficient. We present a necessary and sufficient condition for $\ell_1$ optimization to successfully recover the unknown vector and obtain expressions for the recovery threshold. For certain classes of measurement matrices, this necessary and sufficient condition is further equivalent to the existence of a "unique" vector in the constraint set, which opens the door to alternative algorithms to $\ell_1$ minimization. We further show that the minimal expansion we use is necessary for any graph for which sparse recovery is possible and that therefore our construction is tight. We finally present a novel recovery algorithm that exploits expansion and is much faster than $\ell_1$ optimization. Finally, we demonstrate through theoretical bounds, as well as simulation, that our method is robust to noise and approximate sparsity.

研究动机与目标

• 解决在压缩感知中设计稀疏测量矩阵的挑战，以实现对非负稀疏信号的高效且确定性的恢复。
• 克服现有基于扩展图的构造方法的局限性，这些方法需要较高的扩展系数，从而限制了实际可行性及可恢复集合的大小。
• 为使用稀疏测量矩阵成功恢复非负 $k$-稀疏向量的 $β$-最小化提供必要且充分条件。
• 证明构造中使用的最小扩展系数在任何基于图的恢复方案中都是理论上的必要条件。
• 提出一种新颖的快速恢复算法，利用扩展特性，其计算效率优于标准 $β$-最小化。

提出的方法

• 通过在双分图扩展图的邻接矩阵上施加受控的、低扩展系数的扰动，构造稀疏测量矩阵。
• 提出基于测量矩阵零空间的成功 $β$-最小化恢复的必要且充分条件，要求所有零空间向量具有足够大的负支撑。
• 证明对于特定类别的测量矩阵，成功 $β$-最小化等价于在约束集 ${\bf A}{\bf x} = {\bf y}, {\bf x} \geq 0$ 中存在唯一非负解。
• 提出算法1，一种基于迭代选择小幅值测量值和稀疏子矩阵优化的快速恢复方法，时间复杂度为 $O(nk^2)$。
• 设计算法2用于噪声环境下的恢复，通过排序并丢弃最小的 $m - kd$ 个测量值后，在缩减的子矩阵上进行 $\ell_1$-最小化。
• 通过理论分析和仿真验证对噪声和近似稀疏性的鲁棒性，并给出误差在 $\|{\bf v}\|_1$ 方面的界。

实验结果

研究问题

• RQ1 能否构造出具有最小扩展系数的稀疏测量矩阵，以实现对非负稀疏信号的确定性恢复？
• RQ2 使用稀疏测量矩阵成功恢复非负 $k$-稀疏向量的 $β$-最小化，其必要且充分条件是什么？
• RQ3 构造中使用的最小扩展系数是否在理论上最优，即是否为任何基于图的恢复方案所必需？
• RQ4 能否利用约束集 ${\bf A}{\bf x} = {\bf y}, {\bf x} \geq 0$ 中非负解的唯一性，来实现超越 $β$-最小化的替代恢复算法？
• RQ5 在噪声或近似稀疏条件下，所提出的恢复算法与标准 $β$-最小化相比，在性能和速度上如何？

主要发现

• 与先前工作相比，本文提出的基于扰动扩展图的测量矩阵构造在显著降低扩展系数的前提下，成功实现了 $β$-最小化恢复。
• 建立了 $β$-最小化成功的必要且充分条件，要求 ${\bf A}$ 的所有零空间向量具有足够大的负支撑。
• 对于具有非负元素和恒定列和的测量矩阵类，$β$-最小化成功等价于在约束集中存在唯一非负解。
• 证明了构造中使用的最小扩展系数对任何基于图的恢复方案都是必要的，因此该构造在理论上是紧致的。
• 算法1的恢复速度优于 $β$-最小化，时间复杂度为 $O(nk^2)$，尽管理论界相似，但在实际应用中效率显著更高。
• 算法2对噪声具有鲁棒性，理论误差界为 $\|{\bf x} - \hat{{\bf x}}\|_1 \leq \frac{6 - 4\epsilon}{1 - 2\epsilon}\|{\bf v}\|_1$（当 $\epsilon < 0.5$ 时），并通过仿真得到验证。