[论文解读] Error Decay of (almost) Consistent Signal Estimations from Quantized Random Gaussian Projections.

Laurent Jacques|arXiv (Cornell University)|May 30, 2014

Sparse and Compressive Sensing Techniques参考文献 23被引用 4

一句话总结

本文为从量化随机高斯投影中一致重建信号建立了新的误差界，表明单位球内信号的最坏情况 $β_2$-误差以 $O(\frac{N}{M}\log\frac{M}{\sqrt{N}})$ 的速率衰减，与已知的下界相比仅相差一个对数因子。研究进一步将结果扩展至 $K$-稀疏信号，并证明在量化误差有界的情况下，即使放宽严格一致性条件，仍可保持相似的误差衰减速率。

ABSTRACT

This paper provides new error bounds on reconstruction methods for signals observed from quantized random sensing. Those signal estimation techniques guarantee a perfect matching between the available quantized data and a reobservation of the estimated signal under the same sensing model. Focusing on dithered uniform scalar quantization of resolution $\delta>0$, we prove first that, given a random Gaussian frame of $\mathbb R^N$ with $M$ vectors, the worst case $\ell_2$-error of consistent signal reconstruction decays with high probability as $O(\frac{N}{M}\log\frac{M}{\sqrt N})$ uniformly for all signals of the unit ball $\mathbb B^N \subset \mathbb R^N$. Up to a log factor, this matches a known lower bound in $\Omega(N/M)$. Equivalently, with a minimal number of frame coefficients behaving like $M = O(\frac{N}{\epsilon_0}\log(\frac{\sqrt N}{\epsilon_0}))$, any vectors in $\mathbb B^N$ with $M$ identical quantized projections are at most $\epsilon_0$ apart with high probability. Second, in the context of Quantized Compressed Sensing with $M$ random Gaussian measurements and under the same scalar quantization scheme, consistent reconstructions of $K$-sparse signals of $\mathbb R^N$ have a worst case error that decreases with high probability as $O(\frac{K}{M}\log\frac{MN}{\sqrt K^3})$ uniformly for all such signals. Finally, we show that the strict consistency condition can be slightly relaxed, e.g., allowing for a bounded level of error in the quantization process, while still guaranteeing a proximity between the original and the estimated signal. In particular, if this quantization error is of order $O(1)$ with respect to $M$, similar worst case error decays are reached for reconstruction methods adjusted to such an approximate consistency.

研究动机与目标

• 推导从量化随机高斯测量中一致信号估计的紧致误差界。
• 分析重建误差随测量数 $M$ 和信号维数 $N$ 的变化规律。
• 将结果扩展至量化压缩感知框架下的 $K$-稀疏信号。
• 研究是否可通过放宽严格一致性条件来提升鲁棒性，同时不牺牲误差衰减速率。
• 在有界量化误差下建立误差衰减，表明近似一致性仍可实现有利的收敛性。

提出的方法

• 使用带有分辨率 $\delta > 0$ 的抖动均匀标量量化来建模量化测量。
• 应用一种一致重建框架，强制估计信号投影与观测量化数据完全匹配。
• 对 $\mathbb{R}^N$ 中包含 $M$ 个向量的随机高斯框架进行概率分析，以推导高概率误差界。
• 利用集中不等式和单位球与稀疏信号集合上的几何论证，推导最坏情况 $\ell_2$-误差界。
• 同时考虑全维信号与 $K$-稀疏信号，并相应调整误差界。
• 通过允许有界的量化误差来放宽严格一致性，并证明在调整后的重建方法下，相似的误差衰减速率仍能保持。

实验结果

研究问题

• RQ1 对于单位球 $\mathbb{B}^N$ 中信号的量化随机高斯投影，一致信号重建的最坏情况 $\ell_2$-误差衰减速率如何？
• RQ2 为确保任意两个具有相同量化投影的信号在 $\ell_2$-范数下相差不超过 $\epsilon_0$，所需的最小测量数 $M$ 是多少？
• RQ3 在一致重建下，$K$-稀疏信号的误差界如何随测量数变化？
• RQ4 是否可在不牺牲有利误差衰减速率的前提下，放宽严格一致性条件？
• RQ5 有界量化误差对一致估计中最大重建误差有何影响？

主要发现

• 单位球 $\mathbb{B}^N$ 中信号的一致重建最坏情况 $\ell_2$-误差以高概率衰减为 $O(\frac{N}{M}\log\frac{M}{\sqrt{N}})$。
• 该误差衰减速率与已知的 $\Omega(\frac{N}{M})$ 下界相比仅相差一个对数因子。
• 当 $M = O(\frac{N}{\epsilon_0}\log(\frac{\sqrt{N}}{\epsilon_0}))$ 时，任意两个具有相同量化投影的信号在 $\ell_2$-范数下相差不超过 $\epsilon_0$ 的概率很高。
• 对于 $K$-稀疏信号，最坏情况 $\ell_2$-误差以高概率衰减为 $O(\frac{K}{M}\log\frac{MN}{\sqrt{K}^3})$。
• 放宽严格一致性条件，允许相对于 $M$ 为 $O(1)$ 的有界量化误差，仍可保持相似的误差衰减速率。
• 所提出的重建方法即使在近似一致性下仍保持有利的误差衰减，表明对量化非理想性的鲁棒性。