[论文解读] Stronger L2/L2 Compressed Sensing; Without Iterating

Vasileios Nakos, Zhao Song|arXiv (Cornell University)|Mar 7, 2019

Sparse and Compressive Sensing Techniques参考文献 79被引用 4

一句话总结

本论文提出了首个无需迭代的亚线性时间 ℓ₂/ℓ₂ 压缩感知方案，实现了最优测量复杂度，其创新的非迭代框架基于坐标重要性与随机划分。该方法在解码时间上有所提升，并降低了列稀疏度，解决了 Gilbert 等人（STOC 2010）提出的两个开放问题。

ABSTRACT

We consider the extensively studied problem of $\ell_2/\ell_2$ compressed sensing. The main contribution of our work is an improvement over [Gilbert, Li, Porat and Strauss, STOC 2010] with faster decoding time and significantly smaller column sparsity, answering two open questions of the aforementioned work. Previous work on sublinear-time compressed sensing employed an iterative procedure, recovering the heavy coordinates in phases. We completely depart from that framework, and give the first sublinear-time $\ell_2/\ell_2$ scheme which achieves the optimal number of measurements without iterating; this new approach is the key step to our progress. Towards that, we satisfy the $\ell_2/\ell_2$ guarantee by exploiting the heaviness of coordinates in a way that was not exploited in previous work. Via our techniques we obtain improved results for various sparse recovery tasks, and indicate possible further applications to problems in the field, to which the aforementioned iterative procedure creates significant obstructions.

研究动机与目标

• 消除亚线性时间 ℓ₂/ℓ₂ 压缩感知中的迭代恢复过程，以解决效率与可扩展性瓶颈。
• 在保持最优测量复杂度的前提下，降低感知矩阵的列稀疏度，解决该领域的一个关键开放问题。
• 在不牺牲准确性的前提下，实现更快的解码时间与更优的算法效率，以应对稀疏恢复任务。
• 基于坐标重要性与随机划分，构建一种新的理论框架，实现非迭代恢复。
• 为未来在流式处理、网络监控与数据挖掘等应用中提供基础，这些应用对低更新与低恢复时间有关键需求。

提出的方法

• 提出一种非迭代恢复框架，通过随机划分与阈值处理直接识别重要坐标，避免分阶段恢复。
• 采用基于块的坐标随机划分，将坐标划分为大小为 s 的块，每个块通过随机游走过程采样，以检测重要分量。
• 使用集合查询数据结构（引理 1.8）高效恢复选定坐标的近似值，且概率较高。
• 应用区间森林稀疏恢复（算法 1），精度为 ε/10，以识别大小为 O(k/ε) 的候选支持集 L。
• 实施一种剪枝过程（算法 2），将支持集 L 精炼为大小为 O(k) 的更小集合 S，确保 ℓ₂ 近似误差在最优值的 (1+ε/2) 以内。
• 结合使用随机游走集中性分析（引理 C.1），以保证重要块的总和以高概率超过阈值。

实验结果

研究问题

• RQ1 能否在无需迭代恢复阶段的前提下，实现亚线性时间的 ℓ₂/ℓ₂ 压缩感知？
• RQ2 在保持亚线性解码时间的前提下，实现最优 ℓ₂/ℓ₂ 恢复的感知矩阵可实现的最小列稀疏度是多少？
• RQ3 基于坐标重要性与随机划分的非迭代框架，是否能在测量复杂度与解码速度上超越迭代方案？
• RQ4 在 for-each 模型下，ℓ₂/ℓ₂ 恢复中测量数量、解码时间与列稀疏度之间的权衡关系是什么？
• RQ5 该框架能否扩展至其他稀疏恢复保证，或在流式处理与网络监控等应用中发挥作用？

主要发现

• 所提算法实现了最优 ℓ₂/ℓ₂ 恢复，测量数为 O(k log(n/k))，与已知下界一致。
• 解码时间在 n 上为亚线性，显著快于需要多轮恢复的迭代方案。
• 感知矩阵的列稀疏度降低至 O(log n)，优于先前最优结果，解决了开放问题。
• 该算法成功概率至少为 3/4，整体失败概率通过子程序的并集界控制在 1/4 以内。
• 该框架在各类稀疏恢复任务中实现性能提升，包括重尾检测与网络监控，这些场景对低更新与查询时间有关键要求。
• 非迭代设计避免了迭代恢复固有的可扩展性与延迟限制，为实际部署开辟了新方向。