[论文解读] A Study on Sparse Vector Distributions and Recovery from Compressed Sensing

Bob L. Sturm|arXiv (Cornell University)|Mar 31, 2011

Sparse and Compressive Sensing Techniques参考文献 23被引用 9

一句话总结

本研究评估了在不同稀疏向量分布下压缩感知的恢复算法，发现正交匹配追踪（OMP）在正态分布和拉普拉斯分布下优于1-最小化和两阶段阈值化方法。通过在多个算法中选择最佳解，可显著提升精确恢复概率。

ABSTRACT

I empirically investigate the variability of several recovery algorithms on the distribution underlying the sparse vector sensed by a random matrix. a dependence that has been noted before, but, to my knowledge, not thoroughly investigated. I find that ‘1-minimization [1] and tuned two-stage thresholding [2] (subspace pursuit [3] without the use of a sparsity oracle) are the most robust to changes in the sparse vector distribution; but they are outperformed to a large degree by greedy methods, such as orthogonal matching pursuit [4] for sparse vectors distributed Normal and Laplacian. I also find that selecting the best solution from those produced by several recovery algorithms can significantly increase the probability of exact recovery.

研究动机与目标

• 研究稀疏向量分布如何影响压缩感知恢复算法的性能。
• 评估不同恢复算法（如1-最小化和贪婪方法）在分布可变性下的鲁棒性。
• 确定结合多个算法输出是否能提升精确恢复概率。
• 提供超越稀疏向量结构理想化假设的算法性能实证证据。

提出的方法

• 使用随机传感矩阵，在不同稀疏向量分布下对多种恢复算法进行实证评估。
• 将1-最小化和调优后的两阶段阈值化（无稀疏性预言机的子空间追踪）作为基线方法。
• 使用正交匹配追踪（OMP）作为对比的代表性贪婪方法。
• 在不同分布间比较恢复性能，重点关注精确恢复率。
• 通过从多个算法输出中选择最佳解来实现集成选择。
• 以精确恢复概率为主要指标，在多种分布下衡量性能。

实验结果

研究问题

• RQ1 稀疏向量的分布如何影响1-最小化和两阶段阈值化方法的恢复性能？
• RQ2 在不同稀疏向量分布下，如正交匹配追踪等贪婪方法与凸优化及基于阈值的方法相比表现如何？
• RQ3 结合多个恢复算法的输出能在多大程度上提升精确恢复概率？
• RQ4 哪种恢复算法在多种稀疏向量分布下最具鲁棒性？

主要发现

• 1-最小化和调优后的两阶段阈值化（无稀疏性预言机的子空间追踪）对稀疏向量分布的变化表现出较强的鲁棒性。
• 正交匹配追踪（OMP）在正态分布和拉普拉斯分布的稀疏向量中显著优于1-最小化和两阶段阈值化方法。
• 在正态和拉普拉斯分布下，OMP与其他方法之间的性能差距显著。
• 从多个恢复算法输出中选择最佳解，可显著提高精确恢复的概率。
• 本研究证实，稀疏向量的分布假设在压缩感知中对算法性能有关键影响。
• 单一算法无法在所有分布下占优，但OMP在常用正态和拉普拉斯分布情况下最为有效。