[论文解读] Improving Smoothed l0 Norm in Compressive Sensing Using Adaptive Parameter Selection

Christian Schou Oxvig, Patrick Steffen Pedersen+2 more|arXiv (Cornell University)|Oct 16, 2012

Sparse and Compressive Sensing Techniques参考文献 15被引用 10

一句话总结

本文提出 SL0 MSS，一种用于压缩感知中平滑ℓ₀范数的自适应参数选择策略，显著提升了相变性能，且未增加计算时间。通过根据不确定性δ = n/N动态调整参数，SL0 MSS 在相空间的大部分区域超越了理论ℓ₁范数曲线，同时保持了与标准SL0相当的效率。

ABSTRACT

Signal reconstruction in compressive sensing involves finding a sparse solution that satisfies a set of linear constraints. Several approaches to this problem have been considered in existing reconstruction algorithms. They each provide a trade-off between reconstruction capabilities and required computation time. In an attempt to push the limits for this trade-off, we consider a smoothed l0 norm (SL0) algorithm in a noiseless setup. We argue that using a set of carefully chosen parameters in our proposed adaptive SL0 algorithm may result in significantly better reconstruction capabilities in terms of phase transition while retaining the same required computation time as existing SL0 algorithms. A large set of simulations further support this claim. Simulations even reveal that the theoretical l1 curve may be surpassed in major parts of the phase space.

研究动机与目标

• 在不增加计算成本的前提下，提升压缩感知中平滑ℓ₀（SL0）算法的相变性能。
• 研究SL0中参数选择对重建质量的影响，特别是与不确定性δ = n/N的关系。
• 开发一种基于δ知识的自适应参数策略，以优化SL0性能。
• 证明可在计算时间几乎不变的前提下实现更优的相变性能。
• 提供经实证验证的SL0最优参数设置，其性能优于标准配置。

提出的方法

• 通过基于不确定性δ = n/N的动态参数选择策略，对SL0算法进行改进。
• 采用高斯函数fσ(x) = exp(−x²/(2σ²))对非凸ℓ₀范数进行平滑近似。
• 采用两阶段优化：在约束y = A𝐱下最小化N − g(𝐱)，其中g(𝐱) = Σ fσ(xi)。
• 基于δ，通过实验确定内层迭代次数和σ衰减策略的最优参数。
• 提出SL0 MSS，该变体在δ ≈ 0.5处切换参数模式，以平衡精度与速度。
• 采用基于仿真的调优方法，识别在保持计算时间的前提下最大化相变性能的参数。

实验结果

研究问题

• RQ1 与固定参数SL0相比，SL0中的自适应参数选择是否能显著提升相变性能？
• RQ2 所提出的自适应策略是否使SL0能够超越ℓ₁最小化法的理论相变曲线？
• RQ3 是否可在不增加计算时间的前提下实现更优的重建性能？
• RQ4 SL0 MSS在不同信号类型（Rademacher分布与高斯非零元素）下的性能表现如何？
• RQ5 在不同不确定性δ = n/N值下，SL0的最优参数配置是什么？

主要发现

• SL0 MSS在相空间的大部分区域实现了优于理论ℓ₁范数曲线的相变性能，尤其在Rademacher分布非零元素情况下表现更优。
• 当δ > 0.3时，SL0 MSS在相变性能上超越了理论ℓ₁曲线，甚至优于SL0 MIN和SL0 STD。
• SL0 MSS的计算时间与标准SL0（SL0 STD）相当，而SL0 MIN因内层迭代过多导致速度超过20倍慢。
• 对于高斯非零元素，在δ < 0.2时IHT表现优于SL0 MSS，但在δ > 0.2时SL0 MSS与其它SL0变体相比表现匹配或更优。
• SL0 MSS的计算复杂度随问题规模N的增长与标准SL0相似，尽管IHT在N增大时表现出更优的可扩展性。
• 自适应参数策略，特别是以δ ≈ 0.5为界切换参数模式，是实现高性能且计算开销极小的关键。