[论文解读] Sequential adaptive compressed sampling via Huffman codes

Akram Aldroubi, Haichao Wang+1 more|ArXiv.org|Oct 27, 2008

Sparse and Compressive Sensing Techniques参考文献 23被引用 10

一句话总结

该论文提出了一种基于霍夫曼编码原理的确定性、自适应压缩感知方法，通过二进制向量顺序采样稀疏信号。通过利用信号的概率分布，其期望总成本（采样与重建）最多为 $ s\log n + 2s $，在无噪声情况下可实现精确恢复，并在有噪声条件下保持稳定性能。

ABSTRACT

There are two main approaches in compressed sensing: the geometric approach and the combinatorial approach. In this paper we introduce an information theoretic approach and use results from the theory of Huffman codes to construct a sequence of binary sampling vectors to determine a sparse signal. Unlike other approaches, our approach is adaptive in the sense that each sampling vector depends on the previous sample. The number of measurements we need for a k-sparse vector in n-dimensional space is no more than O(k log n) and the reconstruction is O(k).

研究动机与目标

• 开发一种针对稀疏信号的确定性、自适应采样方案，以最小化采样与重建的总成本。
• 利用信号分量的概率分布，以减少所需测量次数的期望值。
• 在无噪声条件下确保精确恢复，并在有噪声测量下保持稳定重建。
• 提供一种计算高效的替代方案，避免依赖RIP矩阵或$\ell_1$-最小化标准压缩感知方法。
• 证明当假设的信号分布不准确时，该方法仍具有鲁棒性。

提出的方法

• 基于霍夫曼编码原理自适应构建二进制采样向量，每个向量根据先前的测量结果确定。
• 使用霍夫曼树结构对 $s$-稀疏信号中非零分量的位置进行编码，为高概率位置分配更短的码字。
• 采用顺序采样策略：每个采样向量根据先前测量结果选择，以聚焦于非零项的可能位置。
• 通过使用测量结果遍历霍夫曼树来执行重建，以最少的查询识别非零分量。
• 将信号视为具有已知或假设概率分布的随机向量，以最小化期望采样成本。
• 采用确定性构造采样向量的方法，无需依赖随机矩阵集合或RIP条件。

实验结果

研究问题

• RQ1 能否设计一种自适应、确定性的压缩感知方法，以最小化稀疏信号采样与重建的期望总成本？
• RQ2 与非自适应方法相比，使用霍夫曼编码原理如何减少所需测量次数？
• RQ3 在 $\mathbb{R}^n$ 中恢复一个 $s$-稀疏信号时，期望总成本（测量次数 + 重建时间）的理论上限是多少？
• RQ4 该方法在有噪声测量下的表现如何？其对噪声污染是否具有稳定性？
• RQ5 当假设的信号分布不准确或次优时，该方法是否仍保持有效性？

主要发现

• 无论真实信号分布如何，恢复 $\mathbb{R}^n$ 中 $s$-稀疏向量的期望总成本（采样与重建）被限制在 $ s\log n + 2s $ 以内。
• 在无噪声情况下，通过所提出的自适应采样与重建过程，该方法可实现对稀疏信号的精确恢复。
• 当 $n = 32768$ 时，$s=13$ 的平均采样向量数量为 111.88，接近理论界 $13\log(32768) = 195$。
• 即使在 $s=150$ 且 $n=1024$ 的情况下，重建的CPU时间仍保持在 0.15 秒以内，证明了其高度的计算效率。
• 在有噪声条件下，相对 $\ell^2$ 误差随稀疏度 $s$ 线性增加，斜率约为每单位 $s$ 增加 0.6%。
• 相对误差也随噪声水平 $N$ 线性增加，表明在噪声增加时具有可预测且稳定的退化特性。