[论文解读] Robust one-bit compressed sensing with partial circulant matrices

Sjoerd Dirksen, Shahar Mendelson|arXiv (Cornell University)|Dec 17, 2018

Sparse and Compressive Sensing Techniques被引用 4

一句话总结

本文提出了一种基于部分循环测量矩阵的鲁棒一比特压缩感知框架，该矩阵具有结构化特性且易于实现。通过采用抖动量化和凸优化，该方法在真实噪声条件下实现了最优采样复杂度——能够同时处理模拟预量化噪声和对抗性比特翻转，即使在高噪声水平下也能准确恢复稀疏信号。

ABSTRACT

We present optimal sample complexity estimates for one-bit compressed sensing problems in a realistic scenario: the procedure uses a structured matrix (a randomly sub-sampled circulant matrix) and is robust to analog pre-quantization noise as well as to adversarial bit corruptions in the quantization process. Our results imply that quantization is not a statistically expensive procedure in the presence of nontrivial analog noise: recovery requires the same sample size one would have needed had the measurement matrix been Gaussian and the noisy analog measurements been given as data.

研究动机与目标

• 为填补一比特压缩感知在现实噪声条件下的研究空白，实现对显著模拟预量化噪声和对抗性比特损坏的鲁棒恢复。
• 提出一种实用解决方案，采用结构化测量矩阵（特别是部分循环矩阵），而非现实中不可行的i.i.d.高斯矩阵。
• 在存在非平凡噪声水平的条件下实现最优采样复杂度，与高斯矩阵的理论性能相匹配，同时保持计算与实现的可行性。
• 通过证明在存在模拟噪声时量化并不带来统计代价，表明恢复所需的样本数与无量化高斯情形下的理论最小值相同。

提出的方法

• 采用部分循环矩阵作为测量矩阵，具备结构化特性且可在物理系统中高效实现，支持实际部署。
• 通过从 $[-\rho, \rho]$ 上均匀随机抽取的阈值实现抖动量化，稳定量化过程并提升对噪声的鲁棒性。
• 利用广义Lasso或 $\rho$-正则化优化程序，从受噪声和比特翻转污染的一比特测量中恢复稀疏信号。
• 基于结构化矩阵的改进增长性质建立恢复保证，证明稀疏集合在矩阵下的像满足次高斯型集中性。
• 利用次高斯与重尾噪声模型推导采样复杂度边界，明确依赖于噪声水平、信号稀疏度和期望精度。
• 采用基于对偶的分析框架，将误差界以感兴趣集合的高斯宽度表示，并适配至结构化矩阵与量化数据。

实验结果

研究问题

• RQ1 当使用部分循环矩阵等结构化测量矩阵而非i.i.d.高斯矩阵时，一比特压缩感知能否实现最优采样复杂度？
• RQ2 如何在一比特压缩感知中同时实现对模拟预量化噪声与对抗性比特损坏的鲁棒性？
• RQ3 在真实噪声条件下，恢复稀疏信号的误差最多为 $\rho$ 时，所需的最少一比特测量数是多少？
• RQ4 抖动是否能显著提升非高斯结构化矩阵下一比特压缩感知的鲁棒性？能否通过紧致的采样复杂度边界进行形式化？
• RQ5 一比特压缩感知在使用结构化矩阵时，其恢复性能在采样复杂度方面能否与理想高斯情形相匹配？

主要发现

• 所提方法在对数因子范围内达到最优采样复杂度，实现 $\rho$-精确恢复所需测量数为 $m \geq c_3 \gamma_1^2 \gamma_2^2 \frac{\lambda^2 s \log(en/s)}{\rho^4}$。
• 在噪声与阈值参数满足弱条件时，恢复误差以高概率 $1 - (s/\rho^2 n)^2$ 满足 $\|x^\# - x\|_2 \leq \rho$。
• 当抖动水平 $\lambda$ 选择得当以补偿噪声尾部行为时，该方法对次高斯与更重尾噪声均保持鲁棒。
• 结果在对数因子范围内为极小极大最优，意味着在此设定下无其他方法可实现更优的采样复杂度。
• 采用部分循环矩阵可在保持理论保证的同时实现实际部署，使该框架适用于真实世界信号采集。
• 广义Lasso与基于 $\ell_2$-投影的求解器等替代恢复程序亦可达到相同的恢复保证，提供实现上的灵活性。