[论文解读] Bit Precision Analysis for Compressed Sensing

Ehsan Ardestanizadeh, Mahdi Cheraghchi+1 more|ArXiv.org|Jan 15, 2009

Sparse and Compressive Sensing Techniques参考文献 8被引用 4

一句话总结

本文分析了在压缩感知中准确重构 $k$-稀疏信号所需的位精度，表明当使用根位于单位圆上的 $2k\times n$ Vandermonde 矩阵时，每测量值使用 $O(\ell + k\log\frac{n}{k})$ 位足够实现 $\ell$ 位精度内的精确支持恢复。该结果可推广至满足 RIP 的一般矩阵，且对极稀疏信号具有更紧的界。

ABSTRACT

This paper studies the stability of some reconstruction algorithms for compressed sensing in terms of the bit precision. Considering the fact that practical digital systems deal with discretized signals, we motivate the importance of the total number of accurate bits needed from the measurement outcomes in addition to the number of measurements. It is shown that if one uses a $2k imes n$ Vandermonde matrix with roots on the unit circle as the measurement matrix, $O(\ell + k \log(n/k))$ bits of precision per measurement are sufficient to reconstruct a $k$-sparse signal $x \in \R^n$ with dynamic range (i.e., the absolute ratio between the largest and the smallest nonzero coefficients) at most $2^\ell$ within $\ell$ bits of precision, hence identifying its correct support. Finally, we obtain an upper bound on the total number of required bits when the measurement matrix satisfies a restricted isometry property, which is in particular the case for random Fourier and Gaussian matrices. For very sparse signals, the upper bound on the number of required bits for Vandermonde matrices is shown to be better than this general upper bound.

研究动机与目标

• 分析在实际数字约束下，可靠信号重构所需的位精度。
• 确定为在 $\ell$ 位精度内重构 $k$-稀疏信号，每测量值所需的最少准确位数。
• 证明具有单位圆根的 Vandermonde 矩阵可实现高效、低精度重构，并达到最优测量数。
• 推导当测量矩阵满足限制等距性质（RIP）时，总位数所需的一般上界。
• 比较基于 Vandermonde 的重构与一般基于 RIP 的凸优化方法的位复杂度。

提出的方法

• 使用复数域上的 Reed-Solomon 码的校验子译码作为 Vandermonde 测量矩阵的重构算法。
• 通过分析 Vandermonde 矩阵 $k$ 列子矩阵的条件数，限制定点算术中的误差传播。
• 应用 Candes 等人提出的鲁棒恢复理论结果，限制在 RIP 条件下量化误差的影响。
• 通过将量化误差 $\|e\|_\infty$ 与期望的重构精度 $\|\hat{x}-x\|_\infty/\|x\|_\infty < 2^{-\ell}$ 关联，推导出所需测量精度的界。
• 利用限制等距性质（RIP）确保即使在量化测量下，通过 $\ell_1$ 最小化也能实现稳定恢复。
• 使用 $m = O(k\log n)$ 次测量，比较基于 Vandermonde 的校验子译码与一般凸优化方法在 RIP 条件下的位复杂度。

实验结果

研究问题

• RQ1 使用具有单位圆根的 Vandermonde 测量矩阵时，每测量值所需的最少位数是多少，才能在 $\ell$ 位精度内重构 $k$-稀疏信号？
• RQ2 信号的动态范围受 $2^\ell$ 限制，这如何影响压缩感知中所需的位精度？
• RQ3 能否通过复数 Reed-Solomon 码上的校验子译码实现低精度测量下的精确支持恢复？
• RQ4 基于 Vandermonde 矩阵的重构位复杂度与一般满足 RIP 的矩阵（如随机傅里叶或高斯矩阵）相比如何？
• RQ5 在一般 RIP 条件下，为确保 $\ell$ 位精度和正确支持识别，从测量中需要的总位数是多少？

主要发现

• 对于根位于单位圆上的 $2k\times n$ Vandermonde 矩阵，每测量值使用 $O(\ell + k\log\frac{n}{k})$ 位精度足以在 $\ell$ 位精度内重构 $k$-稀疏信号并正确识别其支持。
• 使用 Vandermonde 矩阵时，重构所需的总位数为 $O(k\ell + k^2\log(n/k))$，对于极稀疏信号（$k = O(\log n)$）优于一般基于 RIP 的界。
• 对于随机傅里叶测量矩阵（$m = O(k(\log n)^6)$ 次测量），总位要求为 $O(k(\log n)^6(\ell + \log k + \log\log n))$。
• 在限制等距性质满足 $\delta_{3s} + 3\delta_{4s} < 2$ 的条件下，一般 RIP 矩阵只需 $O(m(\ell + \log m))$ 位，其中 $m$ 为测量次数。
• 界 $\|e\|_\infty / \|y\|_\infty < 2^{-\ell}/(Ck\sqrt{m})$ 确保了 $\ell$ 位精度的重构和正确支持恢复。
• 分析表明，即使仅使用一次测量，只要测量精度足够高，也能实现离散信号的重构，凸显了位精度在测量次数之外的重要性。