[论文解读] Fast Iterative Shrinkage for Signal Declipping and Dequantization

Lucas Rencker, Francis Bach+2 more|arXiv (Cornell University)|Dec 4, 2018

Sparse and Compressive Sensing Techniques参考文献 8被引用 5

一句话总结

本文提出了一种基于FISTA的快速迭代收缩算法，通过将约束稀疏编码问题松弛为无约束、凸且可微的优化问题，实现从截断或量化测量中恢复稀疏信号。与基于ADMM的方法相比，该方法在大规模问题上显著降低了计算时间，同时保持了优异的重建性能。

ABSTRACT

We address the problem of recovering a sparse signal from clipped or quantized measurements. We show how these two problems can be formulated as minimizing the distance to a convex feasibility set, which provides a convex and differentiable cost function. We then propose a fast iterative shrinkage/thresholding algorithm that minimizes the proposed cost, which provides a fast and efficient algorithm to recover sparse signals from clipped and quantized measurements.

研究动机与目标

• 解决在数字信号处理中常见的从截断或量化测量中恢复稀疏信号的挑战。
• 克服现有基于ADMM的方法在每次迭代中需要昂贵的非正交投影所导致的计算效率低下问题。
• 提出一种松弛的无约束优化问题，保持凸性与可微性，同时保留可行性约束。
• 基于FISTA开发一种快速一阶算法，高效求解松弛问题，尤其适用于过完备字典。
• 证明所提方法在重建质量上可与ADMM相媲美或更优，同时显著降低运行时间。

提出的方法

• 通过最小化到可行性集 $ f^{-1}( extbf{y}) $ 的平方距离，加上一个诱导稀疏性的 $ \ ilde{\ell}_1 $-范数惩罚项，将约束稀疏编码问题松弛为无约束形式。
• 将数据保真项定义为 $ \frac{1}{2} \operatorname{d}(\textbf{D} \bm{\alpha}, f^{-1}(\textbf{y}))^2 $，其为凸函数且可微，梯度满足1-Lipschitz连续性。
• 使用正交投影 $ \Pi_{f^{-1}(\textbf{y})}(\textbf{x}) $ 强制满足可行性，对于截断和量化可通过逐元素运算高效计算。
• 应用快速迭代收缩阈值算法（FISTA）求解松弛问题，利用具有 $ \mathcal{O}(1/k^2) $ 收敛速率的加速梯度法。
• 通过仅依赖前两次迭代的简单更新规则实现FISTA，包含软阈值处理与动量项。
• 通过避免嵌套的ADMM迭代实现计算高效性，因为投影与梯度步骤可直接计算，无需求解迭代子问题。

实验结果

研究问题

• RQ1 针对信号去截断与去量化问题，对约束稀疏编码问题进行凸松弛，能否得到一个可微且可高效求解的优化问题？
• RQ2 与原始约束问题上的ADMM相比，FISTA在松弛问题上的性能在重建精度与计算成本方面如何？
• RQ3 FISTA的加速机制对截断与量化信号的收敛速度与最终重建质量有何影响？
• RQ4 所提方法能否在显著降低计算时间的同时保持高重建保真度，相比基于ADMM的方法？
• RQ5 在涉及过完备字典的大规模问题中，当非正交投影计算成本过高时，该方法的可扩展性如何？

主要发现

• 所提松弛形式的重建性能与原始约束问题上的ADMM相当，精度损失可忽略。
• 在松弛问题上应用FISTA的收敛速度显著优于ISTA与ADMM，通常在150次迭代内完成。
• 去截断任务的FISTA计算时间降低至1.56秒，去量化任务为1.81秒，而ADMM分别耗时968.4与943.52秒。
• 与ADMM相比，FISTA方法将计算成本降低了99%，同时保持了高信噪比（SNR）的重建质量。
• 该算法的高效性源于避免了嵌套的ADMM迭代，因为可行性集上的投影可通过逐元素运算直接计算。
• 即使在过完备字典场景下，该方法依然有效，而传统ADMM方法因非正交投影导致的高计算开销而难以应用。