[论文解读] Sparse Recovery of Streaming Signals Using L1-Homotopy

M. Salman Asif, Justin Romberg|arXiv (Cornell University)|Jun 14, 2013

Sparse and Compressive Sensing Techniques参考文献 39被引用 28

一句话总结

该论文提出了一种L1同伦算法，通过利用时间连续性和重叠信号段，实现实时流信号的稀疏恢复。该方法在同伦框架中使用热启动技术高效更新解，与最先进求解器相比显著减少了计算时间，同时在平滑和动态信号模型中均保持了高重建精度。

ABSTRACT

Most of the existing methods for sparse signal recovery assume a static system: the unknown signal is a finite-length vector for which a fixed set of linear measurements and a sparse representation basis are available and an L1-norm minimization program is solved for the reconstruction. However, the same representation and reconstruction framework is not readily applicable in a streaming system: the unknown signal changes over time, and it is measured and reconstructed sequentially over small time intervals. In this paper, we discuss two such streaming systems and a homotopy-based algorithm for quickly solving the associated L1-norm minimization programs: 1) Recovery of a smooth, time-varying signal for which, instead of using block transforms, we use lapped orthogonal transforms for sparse representation. 2) Recovery of a sparse, time-varying signal that follows a linear dynamic model. For both the systems, we iteratively process measurements over a sliding interval and estimate sparse coefficients by solving a weighted L1-norm minimization program. Instead of solving a new L1 program from scratch at every iteration, we use an available signal estimate as a starting point in a homotopy formulation. Starting with a warm-start vector, our homotopy algorithm updates the solution in a small number of computationally inexpensive steps as the system changes. The homotopy algorithm presented in this paper is highly versatile as it can update the solution for the L1 problem in a number of dynamical settings. We demonstrate with numerical experiments that our proposed streaming recovery framework outperforms the methods that represent and reconstruct a signal as independent, disjoint blocks, in terms of quality of reconstruction, and that our proposed homotopy-based updating scheme outperforms current state-of-the-art solvers in terms of the computation time and complexity.

研究动机与目标

• 解决流系统中随时间变化的稀疏信号恢复问题，其中测量值按顺序处理。
• 克服在时间间隔之间测量或表示系统重叠时分块处理的低效问题。
• 开发一种计算高效的算法，随着新测量值的到来逐步更新稀疏信号估计。
• 将线性动态模型与L1正则化优化相结合，以改善时变信号的重建。
• 证明基于同伦的解更新方法在速度和复杂度方面优于从头求解新的L1规划问题。

提出的方法

• 使用基于同伦的算法，随着新测量值的加入和旧测量值的移除，逐步更新加权L1-范数最小化问题的解。
• 利用前一迭代的热启动向量初始化解路径，避免在每个时间步都进行完整重计算。
• 应用同伦方法求解凸优化问题：最小化 ||Wα||₁ + ½||ΦΨα − y||₂²，其中 α 表示稀疏系数。
• 处理两种流信号模型：(1) 使用重叠正交变换（LOT）的平滑信号；(2) 使用预测矩阵的线性动态模型信号。
• 通过动态调整测量矩阵和表示矩阵，保持时间间隔之间信号估计的重叠。
• 采用路径跟踪策略，随着系统参数（如测量集合）的变化追踪解路径，确保每步更新仅需少量步骤即可收敛。

实验结果

研究问题

• RQ1 与从头求解新的L1规划问题相比，基于同伦的解更新是否能显著减少流式稀疏信号恢复的计算时间？
• RQ2 将线性动态模型引入后，是否能提升时变信号恢复中的重建质量？
• RQ3 使用重叠的、重叠的变换进行表示，在重建性能上相比分块变换的提升程度如何？
• RQ4 所提出的L1同伦算法在重建误差和执行时间方面，与最先进的求解器（如SpaRSA）相比表现如何？
• RQ5 每次更新所需的同伦步数平均是多少，这对实时可行性有何影响？

主要发现

• 与SpaRSA相比，L1同伦算法显著减少了计算时间，平均每次迭代的更新时间在5至13毫秒之间。
• 每次更新的同伦步数平均在3至10步之间，表明具有很高的计算效率。
• 在噪声环境中，所提框架的重建质量优于卡尔曼滤波和基于分块DWT的方法，尤其在动态信号中表现更优。
• L1正则化与线性动态建模的结合，相比单独使用任一方法，均能实现更优的信号重建效果。
• L1同伦解的信号-误差比（SER）几乎与SpaRSA完全一致，证实了其在计算速度更快的同时仍保持了解的准确性。
• 该方法在HeaviSine和Piece-Regular信号上均表现出稳健性能，在多种实验设置下均保持了计算效率的一致性提升。