[论文解读] Bayesian compressed sensing with new sparsity-inducing prior

Zai Yang, Lihua Xie+1 more|arXiv (Cornell University)|Aug 31, 2012

Sparse and Compressive Sensing Techniques参考文献 35被引用 9

一句话总结

该论文在贝叶斯压缩感知框架内提出了一种新型分层稀疏诱导先验——广义突触与木板高斯（G-STG）先验，以提升稀疏信号的恢复性能。通过采用高效的变分推理的分层贝叶斯框架，该方法在稀疏性与收敛速度方面优于现有SBL方法，在合成信号与真实世界信号上的重建精度和计算速度均表现更优。

ABSTRACT

Sparse Bayesian learning (SBL) is a popular approach to sparse signal recovery in compressed sensing (CS). In SBL, the signal sparsity information is exploited by assuming a sparsity-inducing prior for the signal that is then estimated using Bayesian inference. In this paper, a new sparsity-inducing prior is introduced and efficient algorithms are developed for signal recovery. The main algorithm is shown to produce a sparser solution than existing SBL methods while preserving their desirable properties. Numerical simulations with one-dimensional synthetic signals and two-dimensional images verify our analysis and show that for sparse signals the proposed algorithm outperforms its SBL peers in both the signal recovery accuracy and computational speed. Its improved performance is also demonstrated in comparison with other state-of-the-art methods in CS.

研究动机与目标

• 开发一种新型稀疏诱导先验，以提升贝叶斯压缩感知中的信号恢复性能。
• 解决现有SBL方法在实现稀疏性与计算效率方面的局限性。
• 在保持SBL优良特性的基础上，提升解的稀疏性与收敛速度。
• 通过分层贝叶斯框架实现高效推理，支持闭式更新。

提出的方法

• 提出一种新型分层先验——广义突触与木板高斯（G-STG）先验，结合零点处的点质量与高斯尺度混合。
• 采用变分贝叶斯推理框架，实现后验估计的高效闭式更新。
• 引入一种贪婪算法，通过后验方差与阈值处理，迭代优化支持集。
• 采用两阶段优化：通过变分推理实现全局优化，通过贪婪支持选择实现局部精炼。
• 引入噪声方差估计步骤，以适应不同的信噪比。
• 推导出在G-STG先验下后验均值与方差的解析表达式，以支持快速计算。

实验结果

研究问题

• RQ1 能否设计一种新型分层先验，使其在压缩感知中产生的解比现有SBL方法更稀疏？
• RQ2 所提出的G-STG先验是否保持了标准SBL的理论收敛性质？
• RQ3 该新方法能否在计算速度与恢复精度方面超越最先进的SBL方法及非贝叶斯方法？
• RQ4 G-STG先验在完全稀疏与可压缩信号上的表现如何？
• RQ5 先验结构对解的稳定性与抗噪声鲁棒性有何影响？

主要发现

• 在Mondrian图像上，所提方法在所有对比方法中实现了最稀疏的解，非零项为1,049个，优于BCS（1,305个）与Laplace（1,218个）。
• 在重建精度方面，所提方法在Mondrian图像上实现了0.1448的均方根误差（RMSE），略高于BCS（0.1423）与Laplace（0.1429），原因在于信号并非完全稀疏。
• 在SBL同类方法中，该方法计算速度最快，Mondrian图像上的平均CPU时间为21.3秒，优于BCS（27.2秒）与Laplace（25.7秒）。
• 在一维合成信号上，所提算法在恢复精度与速度方面均优于SBL、BCS与Laplace。
• 该方法在100次试验中表现最稳定，RMSE与非零项数量的标准差最低。
• G-STG先验在合成与图像重建实验中均验证了其收敛速度更快、稀疏性更优，优于Laplace与BCS先验。