[论文解读] Bayesian Optimal Approximate Message Passing to Recover Structured Sparse Signals

Martin Mayer, Norbert Goertz|arXiv (Cornell University)|Aug 5, 2015

Sparse and Compressive Sensing Techniques参考文献 37被引用 7

一句话总结

该论文提出了一种新型贝叶斯最优近似消息传递算法 BOSSAMP，通过引入外部组更新步骤，利用结构化稀疏性（如组稀疏或联合稀疏信号）来增强压缩感知中的信号恢复性能。通过在组内元素之间迭代交换似然比，并基于软信息更新先验，BOSSAMP 在计算复杂度较低的前提下，实现了优于当前最先进方法（如 HGAMP 和 GLASSO）的恢复性能，展现出更优的相变特性与抗噪鲁棒性。

ABSTRACT

We present a novel compressed sensing recovery algorithm - termed Bayesian Optimal Structured Signal Approximate Message Passing (BOSSAMP) - that jointly exploits the prior distribution and the structured sparsity of a signal that shall be recovered from noisy linear measurements. Structured sparsity is inherent to group sparse and jointly sparse signals. Our algorithm is based on approximate message passing that poses a low complexity recovery algorithm whose Bayesian optimal version allows to specify a prior distribution for each signal component. We utilize this feature in order to establish an iteration-wise extrinsic group update step, in which likelihood ratios of neighboring group elements provide soft information about a specific group element. Doing so, the recovery of structured signals is drastically improved. We derive the extrinsic group update step for a sparse binary and a sparse Gaussian signal prior, where the nonzero entries are either one or Gaussian distributed, respectively. We also explain how BOSSAMP is applicable to arbitrary sparse signals. Simulations demonstrate that our approach exhibits superior performance compared to the current state of the art, while it retains a simple iterative implementation with low computational complexity.

研究动机与目标

• 解决在压缩感知中从含噪线性测量中恢复结构化稀疏信号（如组稀疏或联合稀疏信号）的挑战。
• 通过将信号结构的先验知识融入贝叶斯最优近似消息传递（BAMP）框架，提升恢复性能。
• 开发一种低复杂度、迭代式的算法，在保持简洁性的同时显著提高重建精度。
• 实现对具有重叠组结构及任意稀疏先验（超越二值或高斯分布）信号的高效恢复。

提出的方法

• BOSSAMP 在贝叶斯最优近似消息传递（BAMP）基础上引入外部组更新步骤，通过累积相邻组内元素的似然比，来提供关于目标元素稀疏性的信念信息。
• 该算法采用涡轮原理，在组内元素之间交换软信息，基于组内其余元素的外部证据，动态更新特定条目为零或非零的概率。
• 对于每个信号分量，通过外部组更新所得信念动态更新其先验分布，从而提升后续最小均方误差（MMSE）估计步骤的准确性。
• 推导出在稀疏二值与稀疏高斯（伯努利-高斯）先验下外部更新的闭式表达式，实现高效计算。
• 该方法每轮迭代仅需两次矩阵-向量乘法，避免矩阵求逆，确保计算复杂度极低。
• 通过调整先验更新机制，该框架可推广至任意稀疏信号模型，包括高斯混合模型。

实验结果

研究问题

• RQ1 能否有效利用信号中的结构化稀疏性，使压缩感知恢复性能超越标准 BAMP？
• RQ2 在组稀疏设定下，引入相邻组元素的外部信息如何提升信号重建的准确性？
• RQ3 在相变特性与抗噪鲁棒性方面，BOSSAMP 相较于 HGAMP、GLASSO 和 AMP 等现有最先进算法的性能增益如何？
• RQ4 该算法如何在引入复杂结构先验与迭代信念更新的同时，保持低复杂度？
• RQ5 BOSSAMP 在超越二值与高斯先验的任意稀疏信号模型中，其通用性可扩展到何种程度？

主要发现

• 与 HGAMP 和 GLASSO 相比，BOSSAMP 实现了更早的相变，尤其在小组大小的稀疏高斯情况下，成功恢复所需测量数更少。
• 在稀疏二值先验下，BOSSAMP 显著优于标准 AMP 与 BAMP，即使在组大小 |G_g| = 2 时也表现出显著改进。
• 在稀疏高斯情况下，增大组大小可实现更早的成功过渡与更优的 NMSE 性能，且在高度欠采样条件下，BOSSAMP 优于 HGAMP。
• BOSSAMP 收敛极快，其迭代次数在相变附近出现明显峰值，与 HGAMP 和 BAMP 表现一致。
• 该算法保持极低的计算复杂度——每轮迭代仅需两次矩阵-向量乘法——同时实现优于更复杂方法的性能。
• 仿真结果证实，当信号结构被已知并有效利用时，BOSSAMP 对噪声更具鲁棒性，NMSE 与 FANMSE 显著低于当前最先进方法。