[论文解读] Quantized Iterative Hard Thresholding: Bridging 1-bit and High-Resolution Quantized Compressed Sensing

Laurent Jacques, Kévin Degraux+1 more|arXiv (Cornell University)|May 8, 2013

Sparse and Compressive Sensing Techniques参考文献 20被引用 66

一句话总结

本文提出量化迭代硬阈值（QIHT），一种统一算法，通过将IHT推广至处理任意标量量化级别的方式，弥合了1比特与高分辨率量化压缩感知之间的差距。QIHT通过强制执行量化约束确保重建一致性，在1比特时退化为BIHT，高分辨率时收敛至IHT，并在所有量化分辨率下提供信号恢复精度的理论保证。

ABSTRACT

In this work, we show that reconstructing a sparse signal from quantized compressive measurement can be achieved in an unified formalism whatever the (scalar) quantization resolution, i.e., from 1-bit to high resolution assumption. This is achieved by generalizing the iterative hard thresholding (IHT) algorithm and its binary variant (BIHT) introduced in previous works to enforce the consistency of the reconstructed signal with respect to the quantization model. The performance of this algorithm, simply called quantized IHT (QIHT), is evaluated in comparison with other approaches (e.g., IHT, basis pursuit denoise) for several quantization scenarios.

研究动机与目标

• 统一从1比特到高分辨率的所有量化分辨率下稀疏信号的重建，涵盖从1比特到高分辨率的压缩测量。
• 将迭代硬阈值（IHT）算法推广，以在任意分辨率下强制满足标量量化模型的一致性。
• 在单一、连贯的框架内弥合现有1比特方法（如BIHT）与高分辨率方法（如IHT或基追踪去噪）之间的差距。
• 为所提出的QIHT算法在不同量化级别下提供理论恢复保证，包括二值化与高比特率场景。

提出的方法

• QIHT通过在迭代更新步骤中引入量化一致性约束，推广IHT，确保每次迭代的估计值满足观测到的量化测量值。
• 该算法使用硬阈值算子保持稀疏性，每次迭代仅选择最大幅度的K个分量。
• 通过将信号估计投影到与观测量化测量值符号模式匹配的向量集合上，强制满足量化模型的一致性。
• 该方法源自变分公式，最小化$ε$-正则化的$ε$-拟等距嵌入（BεSE）框架，确保稳定恢复。
• 理论分析通过测量子集上的并集界来界定错误恢复的概率，利用高斯随机感知矩阵。
• 该算法在1比特量化时退化为BIHT，并随着量化分辨率增加而收敛至标准IHT。

实验结果

研究问题

• RQ1 能否设计一种单一算法，统一实现从1比特到高分辨率所有量化分辨率下稀疏信号的重建？
• RQ2 如何将迭代硬阈值框架推广，以强制满足任意标量量化模型的一致性？
• RQ3 在使用统一的量化感知算法时，可为信号恢复精度提供哪些理论保证？
• RQ4 所提出的QIHT算法在不同量化场景下与现有方法（如IHT和基追踪去噪）相比，性能如何？
• RQ5 在所提出的量化模型下，确保稳定恢复所需的最小测量数是多少？

主要发现

• QIHT通过在单一算法框架内统一BIHT与IHT，实现了从1比特到高分辨率所有量化分辨率下稀疏信号的稳定恢复。
• 理论分析表明，以高概率成立：若测量数$ M $满足$ M \geq \frac{2}{\delta}\big{(}2K\log(\max(N,M)) + 4K\log(\frac{17}{\delta}) + \log\frac{2e}{\eta}\big{)} $，则$ d_H(\bm{\varphi}(\bm{a}), \bm{\varphi}(\bm{b})) \leq \frac{r}{M} \Rightarrow \|\bm{a}-\bm{b}\| \leq \delta $，确保准确恢复。
• 该算法在1比特情况下退化为BIHT，并随着量化分辨率增加而收敛至标准IHT，表现出在不同分辨率水平间的连续性。
• QIHT在各种量化场景下，包括低比特与高比特区域，其重建精度优于或等同于现有方法如IHT和基追踪去噪。
• 恢复误差以高概率$ 1 - \eta $被限制在$ \delta $以内，且该界与稀疏度$ K $、测量数$ M $及量化误差容限$ r $成比例。
• 该方法提供了一个统一的理论框架，将B$\epsilon$SE嵌入概念扩展至一般标量量化，实现所有分辨率水平下的一致恢复。