[论文解读] Compressed Sensing with Prior Information: Optimal Strategies, Geometry, and Bounds

João F. C. Mota, Nikos Deligiannis+1 more|arXiv (Cornell University)|Aug 22, 2014

Sparse and Compressive Sensing Techniques参考文献 53被引用 35

一句话总结

本文提出并分析了两种压缩感知（CS）方法——使用 $∥x∥_1 + \beta\|x-w\|_1$ 和 $\|x\|_1 + \frac{\beta}{2}\|x-w\|_2^2$ 的 $β$-正则化 $σ$-范数最小化——以利用先验信息 $w$ 重建稀疏信号。结果表明，当 $w$ 质量较高时，$\ell_1$-$\ell_1$ 最小化可显著降低测量需求，而 $\ell_1$-$\ell_2$ 方法相较于经典 CS 并无显著改进。

ABSTRACT

We address the problem of compressed sensing (CS) with prior information: reconstruct a target CS signal with the aid of a similar signal that is known beforehand, our prior information. We integrate the additional knowledge of the similar signal into CS via L1-L1 and L1-L2 minimization. We then establish bounds on the number of measurements required by these problems to successfully reconstruct the original signal. Our bounds and geometrical interpretations reveal that if the prior information has good enough quality, L1-L1 minimization improves the performance of CS dramatically. In contrast, L1-L2 minimization has a performance very similar to classical CS and brings no significant benefits. All our findings are illustrated with experimental results.

研究动机与目标

• 通过将已知的相似信号 $w$ 整合到重建过程中，解决带先验信息的压缩感知问题。
• 确定在使用先验信息时，成功恢复信号所需的测量数 $m$。
• 比较在先验信息下 $\ell_1$-$\ell_1$ 与 $\ell_1$-$\ell_2$ 最小化方法的性能。
• 基于先验质量与权衡参数 $\beta$，推导测量需求的理论边界。
• 提供重建性能的几何与概率解释。

提出的方法

• 构建一个改进的基追踪问题，其中保真项为 $\beta g(x-w)$，$g$ 衡量 $x^*$ 与先验 $w$ 之间的相似性。
• 考虑两种特定的凸函数：$g_1 = \|\cdot\|_1$ 与 $g_2 = \frac{1}{2}\|\cdot\|_2^2$，分别导出 $\ell_1$-$\ell_1$ 与 $\ell_1$-$\ell_2$ 最小化。
• 利用具有独立同分布条目的高斯随机矩阵，推导出高概率恢复所需的测量数 $m$ 的边界。
• 使用高斯宽度与零空间性质分析，刻画在先验信息下解空间的几何结构。
• 分析权衡参数 $\beta$ 的最优性及其对测量减少的影响。
• 将结果应用于无噪声与有噪声场景，约束条件为 $\|Ax - y\|_2 \leq \sigma$。

实验结果

研究问题

• RQ1 将先验信息 $w$ 纳入压缩感知对信号恢复所需测量数有何影响？
• RQ2 $\ell_1$-$\ell_1$ 最小化相较于经典基追踪与 $\ell_1$-$\ell_2$ 最小化，其理论性能增益为何？
• RQ3 在何种条件下，先验信息可显著降低压缩感知中的测量需求？
• RQ4 先验 $w$ 的质量（以 $\|w - x^*\|_2 / \|x^*\|_2$ 衡量）如何影响所需测量数？
• RQ5 在 $\ell_1$-$\ell_1$ 与 $\ell_1$-$\ell_2$ 最小化中，为最小化测量需求，权衡参数 $\beta$ 的最优值为何？

主要发现

• $\ell_1$-$\ell_1$ 最小化方法可将成功重建所需的测量数显著降低至远低于经典 CS 水平，尤其当先验 $w$ 质量较高时。
• 即使相对误差达 50%（即 $\|w - x^*\|_2 / \|x^*\|_2 \simeq 0.5$），$\ell_1$-$\ell_1$ 最小化仍显著减少测量数，优于经典 CS 或 $\ell_1$-$\ell_2$ 最小化。
• $\ell_1$-$\ell_2$ 最小化方法相较于经典基追踪无显著性能提升，其表现与标准 CS 相当。
• 测量需求的理论边界取决于先验质量与权衡参数 $\beta$，从而支持 $\beta$ 的最优选择。
• 几何与概率分析表明，由于其促进稀疏性的结构，$\ell_1$-$\ell_1$ 最小化能更有效地利用先验信息。
• 本文证明，当先验信号 $w$ 足够接近真实信号 $x^*$ 时，$\ell_1$-$\ell_1$ 最小化在稀疏性对齐方面可实现更优的恢复性能。