[论文解读] Sparse Bayesian Learning Approach for Discrete Signal Reconstruction

Jisheng Dai, An Liu+1 more|arXiv (Cornell University)|Jun 1, 2019

Sparse and Compressive Sensing Techniques参考文献 46被引用 5

一句话总结

该论文提出了一种新颖的稀疏贝叶斯学习（SBL）框架，通过引入一种强制离散化的先验分布，以处理理想狄拉克δ函数先验的不可计算性，从而实现离散信号重建。结合变分贝叶斯推断（VBI）与广义近似消息传递（GAMP），该方法联合利用稀疏性与有限字母表约束，在噪声为零和i.i.d.设置下，其重建性能优于现有最先进（SOAV）和SBL方法。

ABSTRACT

This study addresses the problem of discrete signal reconstruction from the perspective of sparse Bayesian learning (SBL). Generally, it is intractable to perform the Bayesian inference with the ideal discretization prior under the SBL framework. To overcome this challenge, we introduce a novel discretization enforcing prior to exploit the knowledge of the discrete nature of the signal-of-interest. By integrating the discretization enforcing prior into the SBL framework and applying the variational Bayesian inference (VBI) methodology, we devise an alternating optimization algorithm to jointly characterize the finite-alphabet feature and reconstruct the unknown signal. When the measurement matrix is i.i.d. Gaussian per component, we further embed the generalized approximate message passing (GAMP) into the VBI-based method, so as to directly adopt the ideal prior and significantly reduce the computational burden. Simulation results demonstrate substantial performance improvement of the two proposed methods over existing schemes. Moreover, the GAMP-based variant outperforms the VBI-based method with i.i.d. Gaussian measurement matrices but it fails to work for non i.i.d. Gaussian matrices.

研究动机与目标

• 解决具有任意有限字母表的离散信号重建问题，传统压缩感知方法因建模失配而失效。
• 克服在标准SBL框架下，对理想离散化先验（狄拉克δ函数混合）进行贝叶斯推断的不可计算性。
• 开发一种可计算的基于SBL的方法，联合建模信号稀疏性与离散字母表约束，且无需对字母表施加零概率假设。
• 通过将GAMP集成到VBI框架中，实现对i.i.d.高斯测量矩阵的高效重建，提升计算效率与性能。
• 提供一种鲁棒的解决方案，即使在测量矩阵非i.i.d.时仍保持有效性，而GAMP相关变体则不适用。

提出的方法

• 提出一种新颖的强制离散化先验（公式7），用于建模目标信号的有限字母表特性，从而实现可计算的贝叶斯推断。
• 将新先验融入SBL框架，并应用变分贝叶斯推断（VBI）通过交替优化联合估计信号与超参数。
• 通过最小化KL散度，推导出信号、超先验与离散分配变量的变分后验分布的闭式更新规则。
• 对于i.i.d.高斯测量矩阵，将广义近似消息传递（GAMP）嵌入VBI框架，以直接利用理想离散化先验，降低计算复杂度。
• 采用具有伽马分布与复正态分布的层次先验结构，以建模稀疏性与噪声，实现超参数的自动学习。
• 实现一种交替优化方案，迭代更新信号估计、精度参数与离散分配概率。

实验结果

研究问题

• RQ1 能否开发一种可计算的SBL框架，以处理离散信号重建中理想离散化先验（狄拉克δ函数混合）的不可计算性？
• RQ2 如何有效将有限字母表约束融入SBL框架，以在重建精度上超越标准SBL与SOAV方法？
• RQ3 将GAMP集成到基于VBI的SBL框架中，是否能显著降低计算成本，同时在i.i.d.高斯测量矩阵下保持或提升重建性能？
• RQ4 在非i.i.d.高斯测量矩阵下，所提方法表现如何？为何基于GAMP的变体在该情况下失效？
• RQ5 在成功率与符号误码率（SER）方面，所提方法相较于SOAV、BODAMP与标准SBL等现有最先进方法，性能优势有多大？

主要发现

• 基于VBI的算法结合新型强制离散化先验，在不同信号维度与信噪比（SNR）水平下，其成功率与符号误码率（SER）始终优于最先进SOAV与标准SBL方法。
• 对于i.i.d.高斯测量矩阵，基于GAMP的变体在成功率上优于基于VBI的算法，表明其具有更优的重建性能。
• 基于GAMP的算法相比VBI及其他求解器显著降低运行时间，在i.i.d.条件下实现接近最优性能的同时计算成本更低。
• 基于VBI的算法在相关（非i.i.d.）测量矩阵下仍保持鲁棒性能，而基于GAMP的变体因违反i.i.d.假设而失效。
• 在无噪声条件下，当 $ L=8 $，$ riangle = 0.8 $，且 $ N=100 $ 时，所提VBI方法的成功率接近1.0，而GAMP变体超过0.98，优于SOAV与BODAMP。
• 所提方法的SER低于所有对比方法，在 $ N=400 $ 且SNR=20 dB时，SER值低于 $ 10^{-2} $，展现出强大的鲁棒性与准确性。