[论文解读] 1-Bit Compressive Sensing via Approximate Message Passing with Built-in Parameter Estimation

Shuai Huang, Trac D. Tran|arXiv (Cornell University)|Jul 15, 2020

Sparse and Compressive Sensing Techniques参考文献 61被引用 6

一句话总结

该论文提出了一种新型的近似消息传递（AMP）框架，内置参数估计功能，适用于1-bit压缩感知，将信号和噪声分布参数视为未知量并联合恢复。通过利用贝叶斯推断和计算高效的优化方案，该方法在零噪声、中等噪声和高噪声环境下均实现了最先进性能，且无需人工调节参数。

ABSTRACT

1-bit compressive sensing aims to recover sparse signals from quantized 1-bit measurements. Designing efficient approaches that could handle noisy 1-bit measurements is important in a variety of applications. In this paper we use the approximate message passing (AMP) to achieve this goal due to its high computational efficiency and state-of-the-art performance. In AMP the signal of interest is assumed to follow some prior distribution, and its posterior distribution can be computed and used to recover the signal. In practice, the parameters of the prior distributions are often unknown and need to be estimated. Previous works tried to find the parameters that maximize either the measurement likelihood via expectation maximization, which becomes increasingly difficult to solve in cases of complicated probability models. Here we propose to treat the parameters as unknown variables and compute their posteriors via AMP as well, so that the parameters and the signal can be recovered jointly. Compared to previous methods, the proposed approach leads to a simple and elegant parameter estimation scheme, allowing us to directly work with 1-bit quantization noise model. Experimental results show that the proposed approach generally perform much better than the other state-of-the-art methods in the zero-noise and moderate-noise regimes, and outperforms them in most of the cases in the high-noise regime.

研究动机与目标

• 解决1-bit压缩感知中先验分布与噪声分布参数未知的问题，该问题阻碍了AMP的实际应用。
• 开发一种统一框架，联合估计信号与分布参数，以提高恢复精度。
• 通过直接建模复杂的量化噪声过程，实现在1-bit测量噪声环境下的鲁棒性能。
• 消除对手动参数调节或预设噪声模型的依赖，提升算法的稳定性和可用性。
• 在现实噪声场景下，实现接近已知真实参数的“理想AMP”性能。

提出的方法

• 将信号和噪声分布参数视为隐变量，在AMP框架内使用贝叶斯推断计算其后验分布。
• 应用广义近似消息传递（GAMP）通过高斯近似来逼近后验分布。
• 采用类似期望最大化（EM）的优化策略，并结合二阶方法，联合最大化参数与信号的后验概率。
• 引入阻尼和均值消除技术以提升收敛稳定性，尤其适用于一般测量矩阵。
• 直接使用概率似然函数建模1-bit量化噪声，避免了先前工作中采用的近似方法。
• 采用联合优化方案，交替执行信号估计与参数更新步骤，实现端到端的参数学习。

实验结果

研究问题

• RQ1 是否能够设计一种统一的AMP框架，在无需事先知晓噪声或稀疏度水平的情况下，联合估计1-bit压缩感知中的信号与分布参数？
• RQ2 所提出的参数估计方案与依赖固定或调优参数的现有方法相比表现如何？
• RQ3 与先前AMP方法中使用的简化或近似噪声模型相比，该方法在处理复杂量化噪声模型方面的能力如何？
• RQ4 信号与参数的联合恢复是否能显著提升在不同噪声水平（零、中等、高）下的鲁棒性与性能？
• RQ5 算法性能对初始化的敏感程度如何？是否能够在无需人工调节的情况下实现收敛与高精度？

主要发现

• 当过采样比 M/N ≥ 2 时，所提出的AMP-PE方法性能可紧密逼近已知真实参数的“理想AMP”（oracle AMP）。
• 在零噪声和中等噪声环境（γw = 0 和 γw = 0.02）下，AMP-PE显著优于当前最先进的方法，包括IHT、OMP、CoSaMP和l1-最小化。
• 即使在高噪声环境（γw = 0.1）下，AMP-PE在大多数测试配置中仍优于其他方法，展现出良好的鲁棒性。
• 该方法消除了对手动正则化或参数调节的需求，为1-bit CS提供即插即用的解决方案。
• 参数初始化对收敛性和性能的影响大于信号初始化，凸显了设计稳健初始化策略的重要性。
• 该框架可直接处理复杂的1-bit量化噪声模型，而先前的AMP方法多依赖于简化或近似的噪声假设。