[论文解读] Combining geometry and combinatorics: A unified approach to sparse signal recovery

Radu Berinde, Anna C. Gilbert+3 more|ArXiv.org|Apr 29, 2008

Sparse and Compressive Sensing Techniques参考文献 31被引用 31

一句话总结

本文通过利用高质量非平衡扩张图的邻接矩阵，统一了稀疏信号恢复的几何与组合方法。它将受限等距性质（RIP）推广至 p≈1 的 ℓp 范数，从而实现了新的确定性测量矩阵与恢复算法，相较于先前的确定性方法，在测量次数和抗噪能力方面均有提升。

ABSTRACT

There are two main algorithmic approaches to sparse signal recovery: geometric and combinatorial. The geometric approach starts with a geometric constraint on the measurement matrix and then uses linear programming to decode information about the signal from its measurements. The combinatorial approach constructs the measurement matrix and a combinatorial decoding algorithm to match. We present a unified approach to these two classes of sparse signal recovery algorithms. The unifying elements are the adjacency matrices of high-quality unbalanced expanders. We generalize the notion of Restricted Isometry Property (RIP), crucial to compressed sensing results for signal recovery, from the Euclidean norm to the l_p norm for p about 1, and then show that unbalanced expanders are essentially equivalent to RIP-p matrices. From known deterministic constructions for such matrices, we obtain new deterministic measurement matrix constructions and algorithms for signal recovery which, compared to previous deterministic algorithms, are superior in either the number of measurements or in noise tolerance.

研究动机与目标

• 在统一的理论框架下，统一几何与组合方法在稀疏信号恢复中的应用。
• 将受限等距性质（RIP）从 ℓ2 范数推广至 p≈1 的 ℓp 范数，以扩大其在稀疏恢复中的适用范围。
• 利用非平衡扩张图构造新型确定性测量矩阵，其在测量次数或抗噪能力方面优于先前的确定性构造。
• 开发与这些新型确定性矩阵兼容的高效组合解码算法。
• 证明非平衡扩张图的邻接矩阵可作为几何与组合恢复范式统一的结构基础。

提出的方法

• 核心方法使用高质量非平衡扩张图的邻接矩阵作为测量矩阵，证明其满足 p≈1 时 ℓp 范数下的广义 RIP-p 性质。
• 恢复算法采用递归约减过程 ${\tt Reduce}({\bm \nabla}x)$，利用矩阵结构与概要向量识别并投票给候选非零系数。
• 算法为每个索引维护一个得票多重集，仅当某系数在至少 d/2 个得票中出现时，才将其设为得票值，从而增强对非唯一支持下误差的鲁棒性。
• 采用递归恢复过程 ${\tt Recover}({\bm \nabla}x)$，通过在每一步迭代减少残差的稀疏度，逐步恢复信号。
• 通过张量类乘积 $\bm{\Phi} = \bm{\Psi} \otimes_r \bm{B}$ 将非平衡扩张图 $\bm{\Psi}$ 的邻接矩阵与比特测试矩阵 $\bm{B}$ 结合，形成最终的测量矩阵。
• 该方法确保对于任意 k-稀疏信号，恢复算法运行时间在 $O(m \log^2 n)$ 内，且每轮迭代最多仅有 $k/2$ 个错误条目，从而保证在对数步内收敛。

实验结果

研究问题

• RQ1 几何与组合方法在稀疏信号恢复中能否在统一的理论框架下实现统一？
• RQ2 在稀疏恢复背景下，受限等距性质（RIP）能否从 ℓ2 范数有意义地推广至 p≈1 的 ℓp 范数？
• RQ3 非平衡扩张图的邻接矩阵能否作为几何与组合恢复方法的有效测量矩阵？
• RQ4 基于扩张图的确定性构造能否在测量次数或抗噪能力方面超越现有确定性方法？
• RQ5 基于扩张图测量矩阵的恢复算法的计算复杂度与正确性保证是什么？

主要发现

• 本文证明了非平衡扩张图的邻接矩阵满足 p≈1 时 ℓp 范数下的广义受限等距性质，扩展了经典 RIP 框架。
• 所提出的测量矩阵构造在 k-稀疏信号恢复所需测量次数方面优于先前的确定性构造，性能更优。
• 恢复算法运行时间为 $O(m \log^2 n)$，可正确恢复任意 k-稀疏信号，且每轮迭代最多仅有 $k/2$ 个错误条目，确保在对数步内收敛。
• 该方法实现了具有可证明保证的确定性稀疏信号恢复，在抗噪能力与测量效率方面显著优于先前的确定性算法。
• 该框架通过证明两者均可源于同一基础结构——非平衡扩张图，统一了几何与组合方法。
• 实验结果表明，高维多面体在稀疏随机矩阵下的投影与在高斯矩阵下的投影行为相似，表明尽管结构不同，但几何行为相近。