[论文解读] Robust 1-Bit Compressive Sensing via Binary Stable Embeddings of Sparse Vectors

Laurent Jacques, Jason N. Laska+2 more|arXiv (Cornell University)|Apr 15, 2011

Sparse and Compressive Sensing Techniques被引用 20

一句话总结

本文提出了一种鲁棒的1比特压缩感知框架，利用二值稳定嵌入实现仅从符号测量中精确重构稀疏信号。结果表明，在无噪声条件下，i.i.d. 高斯测量矩阵可实现近乎最优的重构误差，并引入了二值ε-稳定嵌入（BεSE）性质以确保对噪声的鲁棒性，且二值迭代硬阈值（BIHT）算法实现了当前最先进的性能。

ABSTRACT

The Compressive Sensing (CS) framework aims to ease the burden on analog-to-digital converters (ADCs) by reducing the sampling rate required to acquire and stably recover sparse signals. Practical ADCs not only sample but also quantize each measurement to a finite number of bits; moreover, there is an inverse relationship between the achievable sampling rate and the bit depth. In this paper, we investigate an alternative CS approach that shifts the emphasis from the sampling rate to the number of bits per measurement. In particular, we explore the extreme case of 1-bit CS measurements, which capture just their sign. Our results come in two flavors. First, we consider ideal reconstruction from noiseless 1-bit measurements and provide a lower bound on the best achievable reconstruction error. We also demonstrate that i.i.d. random Gaussian matrices describe measurement mappings achieving, with overwhelming probability, nearly optimal error decay. Next, we consider reconstruction robustness to measurement errors and noise and introduce the Binary $\\epsilon$-Stable Embedding (B$\\epsilon$SE) property, which characterizes the robustness measurement process to sign changes. We show the same class of matrices that provide almost optimal noiseless performance also enable such a robust mapping. On the practical side, we introduce the Binary Iterative Hard Thresholding (BIHT) algorithm for signal reconstruction from 1-bit measurements that offers state-of-the-art performance.

研究动机与目标

• 开发一种实用的压缩感知框架，通过仅使用1比特测量（即符号）而非多比特量化样本，降低ADC复杂度。
• 为使用随机高斯矩阵从无噪声1比特测量中实现精确信号重构建立理论保证。
• 通过二值ε-稳定嵌入（BεSE）性质，形式化表征测量噪声或符号错误下的鲁棒性。
• 设计并评估一种实用的重构算法——二值迭代硬阈值（BIHT）算法，该算法在1比特CS中实现了最先进的性能。

提出的方法

• 使用二值稳定嵌入，通过随机高斯矩阵将稀疏向量映射为仅含符号的测量值。
• 引入二值ε-稳定嵌入（BεSE）性质，以量化由于噪声导致符号变化时测量过程的鲁棒性。
• 采用基于ℓ1-最小化的凸松弛方法进行信号恢复，并将其适配于1比特测量。
• 提出二值迭代硬阈值（BIHT）算法，通过迭代优化支持集估计和信号值，利用符号测量进行重构。
• 利用Chernoff-Hoeffding不等式分析误差界，量化在加性高斯噪声下符号误分类的概率。
• 建立理论性能边界，表明在适当条件下，重构误差以O(K/M log(MN/K))的速率衰减。

实验结果

研究问题

• RQ1 能否使用随机高斯矩阵从1比特测量（仅符号）中精确重构稀疏信号？在无噪声情况下，重构误差的根本极限是什么？
• RQ2 当测量受噪声或符号错误影响时，1比特压缩感知的鲁棒性如何形式化表征？
• RQ3 在无噪声条件下实现最优性能的同一类测量矩阵，是否也能在噪声条件下实现鲁棒恢复？
• RQ4 一种实用的迭代重构算法能否在1比特CS中实现比现有方法更高的精度和更快的收敛速度？
• RQ5 重构误差的渐近尺度如何随稀疏度K、测量数M和信号维度N变化？

主要发现

• 在无噪声1比特CS设置下，可实现的最小重构误差存在下界，且i.i.d. 高斯矩阵以高概率实现近乎最优的误差衰减。
• 引入了二值ε-稳定嵌入（BεSE）性质，并证明其可表征由噪声引起的符号变化的鲁棒性，确保稳定信号恢复。
• 在无噪声条件下实现近乎最优性能的i.i.d. 高斯测量矩阵，也满足BεSE性质，从而在噪声条件下实现鲁棒重构。
• 二值迭代硬阈值（BIHT）算法在1比特CS的重构精度和收敛速度方面实现了当前最先进的性能。
• 理论分析表明，重构误差的尺度为O(K/M log(MN/K))，证实了随着测量数M增加，性能具有有利的渐近特性。
• 在加性高斯噪声下，符号误分类的概率被界定为e(σ,‖x‖₂) = ½ σ / √(‖x‖₂² + σ²)，该概率随信噪比提高而衰减。