[论文解读] Approximate Message Passing with Nearest Neighbor Sparsity Pattern Learning

Xiangming Meng, Sheng Wu+4 more|arXiv (Cornell University)|Jan 4, 2016

Sparse and Compressive Sensing Techniques参考文献 39被引用 9

一句话总结

该论文提出AMP-NNSPL，一种近似消息传递算法，通过期望最大化（EM）方法利用k-近邻估计自适应学习聚类稀疏模式。通过基于局部邻域信息更新稀疏比，该方法在合成与真实世界压缩感知任务中，相较于最先进方法，实现了更优的重建性能与计算效率，尤其在未知稀疏模式下表现突出。

ABSTRACT

We consider the problem of recovering clustered sparse signals with no prior knowledge of the sparsity pattern. Beyond simple sparsity, signals of interest often exhibits an underlying sparsity pattern which, if leveraged, can improve the reconstruction performance. However, the sparsity pattern is usually unknown a priori. Inspired by the idea of k-nearest neighbor (k-NN) algorithm, we propose an efficient algorithm termed approximate message passing with nearest neighbor sparsity pattern learning (AMP-NNSPL), which learns the sparsity pattern adaptively. AMP-NNSPL specifies a flexible spike and slab prior on the unknown signal and, after each AMP iteration, sets the sparse ratios as the average of the nearest neighbor estimates via expectation maximization (EM). Experimental results on both synthetic and real data demonstrate the superiority of our proposed algorithm both in terms of reconstruction performance and computational complexity.

研究动机与目标

• 为解决在先验未知稀疏模式条件下重建聚类稀疏信号的挑战。
• 通过利用信号中潜在的聚类结构，超越简单稀疏性，提升重建性能。
• 开发一种高效且自适应的算法，无需事先了解信号结构即可学习稀疏模式。
• 将近似消息传递的计算优势与k-近邻聚类的结构感知能力相结合。

提出的方法

• 该算法采用灵活的spike and slab先验，为每个信号分量单独设定稀疏比λi，从而实现对结构化稀疏性的自适应建模。
• 在每次AMP迭代后，基于其k-近邻估计的平均值，使用期望最大化（EM）方法更新稀疏比λi。
• k-NN邻域基于当前信号估计确定，使局部结构信息能够指导全局稀疏模式的学习。
• 算法通过贝叶斯推断导出的闭式更新，迭代更新信号估计、方差与稀疏比。
• 将基于EM的稀疏比学习整合进AMP框架，实现在重建过程中对稀疏模式的在线自适应。
• 通过避免显式建模复杂层次先验，同时仍捕捉到类聚类稀疏性，保持了较低的计算复杂度。

实验结果

研究问题

• RQ1 k-近邻统计能否有效用于推断并自适应学习压缩感知中聚类信号的稀疏模式？
• RQ2 基于EM的邻域平均实现的自适应稀疏模式学习，相比固定或随机先验，如何提升重建性能？
• RQ3 当稀疏模式未知时，AMP-NNSPL在重建精度与计算效率方面，相较于最先进方法的优越程度如何？
• RQ4 所提出方法在不同信噪比与测量率下是否保持鲁棒性？

主要发现

• 在块稀疏合成信号实验中，AMP-NNSPL在所有测量比下均实现了最高的成功率与模式恢复率。
• 在噪声环境（SNR = 50 dB）下，AMP-NNSPL在所有对比算法中实现了最低的归一化均方误差（NMSE）与最快运行时间。
• 在真实2D血管造影图像（稀疏度≈0.12）上，AMP-NNSPL在成功率与NMSE方面显著优于其他方法，尤其在低测量比（M/N = 0.12）时表现突出。
• 在M/N = 0.12与SNR = 50 dB条件下，AMP-NNSPL在视觉与定量重建质量上均表现最佳，且在多数试验中实现了精确支持恢复。
• 即使与计算复杂度较高的方法（如PC-SBL与MBCS-LBP）相比，AMP-NNSPL仍保持卓越性能，后者因计算开销过大而未在真实数据测试中使用。