[论文解读] Generalized Approximate Message Passing for Cosparse Analysis Compressive Sensing

Mark Borgerding, Philip Schniter+1 more|arXiv (Cornell University)|Dec 13, 2013

Sparse and Compressive Sensing Techniques参考文献 44被引用 6

一句话总结

该论文提出了一种基于贝叶斯AMP的广义近似消息传递算法——GrAMPA（Generalized Approximate Message Passing for Analysis Compressive Sensing），可高效、高性能地恢复使用任意分析算子和正则化项的共稀疏信号。该方法引入了SNIPE去噪器——一种基于无限方差平铺分量的脉冲-板 prior 下的最小均方误差（MMSE）估计的软阈值规则，相较于现有的AMP、贪婪及重加权-ℓ₁方法，在合成实验与成像实验中均实现了更优的重建精度与速度。

ABSTRACT

In cosparse analysis compressive sensing (CS), one seeks to estimate a non-sparse signal vector from noisy sub-Nyquist linear measurements by exploiting the knowledge that a given linear transform of the signal is cosparse, i.e., has sufficiently many zeros. We propose a novel approach to cosparse analysis CS based on the generalized approximate message passing (GAMP) algorithm. Unlike other AMP-based approaches to this problem, ours works with a wide range of analysis operators and regularizers. In addition, we propose a novel $\ell_0$-like soft-thresholder based on MMSE denoising for a spike-and-slab distribution with an infinite-variance slab. Numerical demonstrations on synthetic and practical datasets demonstrate advantages over existing AMP-based, greedy, and reweighted-$\ell_1$ approaches.

研究动机与目标

• 开发一种通用、可扩展且高效的共稀疏分析压缩感知算法，适用于任意分析算子和正则化项。
• 解决现有基于AMP的方法受限于特定算子（如有限差分矩阵）的局限性。
• 设计一种新颖的MMSE去噪器，通过具有无限方差平铺分量的脉冲-板先验，近似实现ℓ₀类正则化。
• 以计算高效的方式实现信号的MAP与近似MMSE估计。
• 在多种信号模型与成像应用中，证明其在重建精度与运行时间方面优于最先进方法。

提出的方法

• 该方法在贝叶斯框架下建模分析压缩感知问题，分别使用可分函数 h_d(u_d) 和 l_m(·) 建模信号先验与似然函数。
• 采用广义近似消息传递（GAMP）迭代估计信号的后验均值与协方差，实现高效的近似MMSE与MAP估计。
• 关键创新在于SNIPE去噪器，其基于具有无限方差平铺分量的脉冲-板分布下的MMSE估计，可模拟ℓ₀类稀疏性促进。
• 将SNIPE去噪器集成至GAMP框架中，以处理非凸、非光滑正则化项，实现对共稀疏信号的鲁棒恢复。
• 该算法支持实值与复值信号，通用算子下计算复杂度为O(DN)，当使用快速变换时可降至O(N log N)。
• 在线调整SNIPE参数ω被识别为未来工作的方向。

实验结果

研究问题

• RQ1 能否将广义AMP框架扩展至处理共稀疏分析压缩感知中的任意分析算子？
• RQ2 如何在AMP框架中有效近似非凸的ℓ₀类正则化以实现信号恢复？
• RQ3 所提出的SNIPE去噪器（基于具有无限方差平铺分量的脉冲-板先验）是否在重建质量上优于标准ℓ₁与重加权-ℓ₁正则化？
• RQ4 与现有基于贪婪算法和凸优化的方法相比，所提方法的计算复杂度与可扩展性如何？
• RQ5 该算法能否在实际成像任务（如从傅里叶测量中恢复图像）中实现更优的相变特性与重建信噪比？

主要发现

• 在无噪声条件下对L-共稀疏信号的恢复中，GrAMPA结合SNIPE去噪器实现了最佳相变曲线，优于GAP、ACoSaMP及其他基于AMP的方法。
• 在512×512 Lena图像的压缩成像恢复中，GrAMPA在所有采样率下均实现了高于SARA（重加权-ℓ₁）与GrLASSO的中位NSNR，且运行时间仅为220秒，远低于SARA的2687秒。
• 在2D径向线傅里叶测量下对Shepp-Logan幻像的恢复中，当径向线数超过6条时，GrAMPA在所有情况下均达到最高NSNR，运行时间仅0.28秒，显著快于GAP的30.1秒。
• 所提出的SNIPE去噪器通过在具有无限方差平铺分量的脉冲-板模型下进行MMSE估计，有效实现了ℓ₀类正则化，从而提升了稀疏性促进效果。
• 该算法在通用算子下复杂度为O(DN)，使用快速变换时可降至O(N log N)，使其在成像应用中极具效率。
• 数值结果表明，GrAMPA在多个数据集与测量模型下，始终在重建精度与计算效率方面优于最先进方法。