[论文解读] Sigma Delta quantization with Harmonic frames and partial Fourier ensembles

Rongrong Wang|arXiv (Cornell University)|Nov 18, 2015

Sparse and Compressive Sensing Techniques参考文献 29被引用 4

一句话总结

该论文首次在压缩感知中针对部分傅里叶矩阵和调和框架，建立了西格玛-德尔塔量化误差衰减结果，表明傅里叶测量的随机重排可增强低频分量，并实现有效过采样下的多项式误差衰减。论文证明，一阶西格玛-德尔塔量化下重建误差衰减率为 $ m^{-1/2} $，二阶量化下为 $ m^{-3/2} $，证实了误差对有效过采样率的依赖性猜想。

ABSTRACT

Sigma Delta quantization, a quantization method which first surfaced in the 1960s, has now been used widely in various digital products such as cameras, cell phones, radars, etc. The method samples an input signal at a rate higher than the Nyquist rate, thus achieves great robustness to quantization noise. Compressed Sensing (CS) is a frugal acquisition method that utilizes the possible sparsity of the signals to reduce the required number of samples for a lossless acquisition. One can deem the reduced number as an effective dimensionality of the set of sparse signals and accordingly, define an effective oversampling rate as the ratio between the actual sampling rate and the effective dimensionality. A natural conjecture is that the error of Sigma Delta quantization, previously shown to decay with the vanilla oversampling rate, should now decay with the effective oversampling rate when carried out in the regime of compressed sensing. Confirming this intuition is one of the main goals in this direction. The study of quantization in CS has so far been limited to proving error convergence results for Gaussian and sub-Gaussian sensing matrices, as the number of bits and/or the number of samples grow to infinity. In this paper, we provide a first result for the more realistic Fourier sensing matrices. The major idea is to randomly permute the Fourier samples before feeding them into the quantizer. We show that the random permutation can effectively increase the low frequency power of the measurements, thus enhance the quality of $ΣΔ$ quantization.

研究动机与目标

• 将西格玛-德尔塔量化误差分析从次高斯分布扩展至压缩感知中更现实的傅里叶传感矩阵。
• 研究西格玛-德尔塔量化中的误差衰减是否依赖于有效过采样率，而非原始采样率，以实现稀疏信号恢复。
• 证明傅里叶测量的随机重排可提升低频能量，从而改善量化质量。
• 为现实传感模型下的误差衰减率提供理论与数值证据。

提出的方法

• 在西格玛-德尔塔量化前，对部分傅里叶或调和框架的行进行随机重排，以增强测量中的低频能量。
• 对重排后的测量应用一阶与二阶西格玛-德尔塔量化器，利用反馈实现量化噪声整形。
• 结合矩阵罗森塔尔不等式与受限等距性质（RIP）界，推导稀疏信号重建的误差估计。
• 采用Sobolev对偶解码进行重建，并以测量数 $ m $ 与稀疏度 $ k $ 表示最坏情况下的重建误差。
• 证明在随机重排下，一阶量化重建误差衰减率为 $ m^{-1/2} $，二阶量化为 $ m^{-3/2} $。
• 对512维信号进行数值实验，改变 $ m $ 与 $ k $，通过随机信号与随机重排的蒙特卡洛平均进行分析。

实验结果

研究问题

• RQ1 当使用部分傅里叶矩阵而非次高斯矩阵时，西格玛-德尔塔量化是否能实现与有效过采样率相关的误差衰减？
• RQ2 傅里叶测量的随机重排能否提升压缩感知中西格玛-德尔塔量化性能？
• RQ3 一阶与二阶西格玛-德尔塔量化在调和框架与部分傅里叶集合下的误差衰减精确速率为何？
• RQ4 理论误差界在 $ m $ 与 $ k $ 上的依赖关系是否最优？
• RQ5 随机化量化性能与直接对未重排傅里叶测量进行量化相比如何？

主要发现

• 一阶西格玛-德尔塔量化下，重建误差衰减率为 $ m^{-1/2} $，与定理3.2中的理论界一致。
• 二阶西格玛-德尔塔量化下，误差衰减率为 $ m^{-3/2} $，支持了猜想3.1中的推测速率。
• 数值实验表明，随机重排可实现多项式误差衰减，而直接量化则无衰减，证明了重排的必要性。
• 通过固定 $ m=512 $ 并增加 $ k $ 的仿真，证明定理3.2中的误差界在 $ m $ 上是最优的。
• 理论分析表明，随机重排可增强低频分量，提升信噪比，从而实现有效的噪声整形。
• 结果验证了在傅里叶测量的压缩感知中，误差衰减由有效过采样率（相对于稀疏度 $ k $）决定，将先前在次高斯矩阵上的结果推广至傅里叶集合。