[论文解读] Quantized Compressive Sensing

Wei Dai, Hoa V. Pham+1 more|ArXiv.org|Jan 7, 2009

Sparse and Compressive Sensing Techniques参考文献 19被引用 34

一句话总结

本文分析了在测量向量进行标量量化、向量量化和熵编码量化时压缩感知中的平均失真。针对标量量化，推导出精确的渐近失真率函数；针对向量量化和熵编码量化，推导出失真率函数的上下界，并提出改进的BP和SP算法以考虑量化误差，在仿真中相比标准方法显著降低了重建失真。

ABSTRACT

We study the average distortion introduced by scalar, vector, and entropy coded quantization of compressive sensing (CS) measurements. The asymptotic behavior of the underlying quantization schemes is either quantified exactly or characterized via bounds. We adapt two benchmark CS reconstruction algorithms to accommodate quantization errors, and empirically demonstrate that these methods significantly reduce the reconstruction distortion when compared to standard CS techniques.

研究动机与目标

• 分析压缩感知中量化引入的平均失真，超越最坏情况下的边界。
• 在测量矩阵和稀疏信号的概率模型下，推导标量量化下精确的渐近失真率函数。
• 为向量量化和熵编码量化建立失真率函数的下界和上界。
• 改进标准压缩感知重建算法（BP和SP），以处理量化误差并提高重建精度。
• 通过实验验证，改进的算法在存在量化时，性能优于经典BP和SP方法。

提出的方法

• 基于测量矩阵和稀疏信号服从特定分布的概率模型，推导标量量化下的渐近失真率函数。
• 应用随机矩阵理论和奇异值分解，对测量向量的分布进行建模，特别关注测量矩阵的主子空间。
• 利用格拉姆矩阵 $\mathbf{\Phi}_T\mathbf{\Phi}_T^*$ 的特征值分解，表征测量空间中的信号能量，并推导失真边界。
• 提出一种改进的重建框架，将量化噪声模型整合进基追踪（basis pursuit）和子空间追踪（subspace pursuit）算法中，调整优化约束以反映量化后的测量值。
• 引入一种基于投影的方法，以找到唯一解 $ (\tilde{\mathbf{x}}, \tilde{\mathbf{y}}) $，使其在量化约束下最小化重建误差。
• 利用高斯向量量化渐近失真率函数，对所提算法的性能进行边界约束。

实验结果

研究问题

• RQ1 在概率模型下，压缩感知测量的标量量化，其精确渐近失真率函数是什么？
• RQ2 在压缩感知中，向量量化和熵编码量化下，失真率函数的下界和上界行为如何？
• RQ3 标准基追踪和子空间追踪算法能否被改进，以在测量值被量化时降低重建失真？
• RQ4 改进算法相比经典压缩感知重建方法，在存在量化噪声时的性能增益如何？
• RQ5 测量矩阵的结构和稀疏模式如何影响压缩感知中的量化失真？

主要发现

• 在概率模型下，标量量化下的渐近失真率函数被精确推导，其极限表达式涉及格拉姆矩阵 $\mathbf{\Phi}_T\mathbf{\Phi}_T^*$ 的特征值。
• 对于向量量化，基于RIP假设，推导出失真率函数的下界为 $ (1 - \delta_K)(1 + o_K(1)) $，对所有支持集 $ T $ 均成立。
• 通过将一系列量化器应用于 $ \mathbf{Y} $，建立了向量量化的上界，表明当 $ \epsilon \downarrow 0 $ 时，失真趋近于 $ (1 + \delta_K + \epsilon) $。
• 在仿真中，考虑量化误差的改进BP和SP算法相比标准方法，显著降低了重建失真。
• 通过凸优化和在量化测量可行集上的投影论证，证明了最优解 $ (\tilde{\mathbf{x}}, \tilde{\mathbf{y}}) $ 的存在性与唯一性。
• 分析表明，仅对测量向量的主 $ K $-维子空间进行量化是最优的，因为正交分量不携带任何有用信号。