[论文解读] A Scale Invariant Approach for Sparse Signal Recovery

Yaghoub Rahimi, Chao Wang+2 more|arXiv (Cornell University)|Dec 20, 2018

Sparse and Compressive Sensing Techniques参考文献 47被引用 8

一句话总结

该论文提出了一种用于稀疏信号恢复的尺度不变 $L_1/L_2$ 比值最小化模型，通过一种新颖的强零空间性质（sNSP）证明了稀疏向量是局部极小值。该方法采用 ADMM 实现高效计算，在无需调节参数的情况下实现了最先进性能。

ABSTRACT

In this paper, we study the ratio of the $L_1 $ and $L_2 $ norms, denoted as $L_1/L_2$, to promote sparsity. Due to the non-convexity and non-linearity, there has been little attention to this scale-invariant model. Compared to popular models in the literature such as the $L_p$ model for $p\in(0,1)$ and the transformed $L_1$ (TL1), this ratio model is parameter free. Theoretically, we present a strong null space property (sNSP) and prove that any sparse vector is a local minimizer of the $L_1 /L_2 $ model provided with this sNSP condition. Computationally, we focus on a constrained formulation that can be solved via the alternating direction method of multipliers (ADMM). Experiments show that the proposed approach is comparable to the state-of-the-art methods in sparse recovery. In addition, a variant of the $L_1/L_2$ model to apply on the gradient is also discussed with a proof-of-concept example of the MRI reconstruction.

研究动机与目标

• 开发一种无需调节参数、尺度不变的稀疏信号恢复方法，避免对正则化参数进行调优。
• 通过一种新的强零空间性质（sNSP）为 $L_1/L_2$ 比值模型建立理论基础。
• 证明在 sNSP 条件下，任意 $s$-稀疏向量都是 $L_1/L_2$ 模型的局部极小值。
• 设计一种可通过 ADMM 求解的约束形式，以实现实际应用。
• 在压缩感知和磁共振成像（MRI）重建任务中验证该方法，结果表现出竞争力。

提出的方法

• 提出 $L_1/L_2$ 比值作为 $L_0$ 范数的非凸、尺度不变替代，以促进稀疏性。
• 引入一种新的强零空间性质（sNSP），确保 $s$-稀疏向量是 $L_1/L_2$ 模型的局部极小值。
• 推导出基于矩阵 $A$ 的零空间结构的理论条件，使得 $L_1/L_2$ 模型能够精确恢复稀疏信号。
• 提出一种适合通过 ADMM 数值求解的 $L_1/L_2$ 模型的约束优化形式。
• 将 $L_1/L_2$ 模型的一种变体应用于信号的梯度，以在 MRI 重建中实现类似总变差的正则化。
• 使用增广拉格朗日乘子法（ADMM）求解约束型 $L_1/L_2$ 问题，并保证收敛性。

实验结果

研究问题

• RQ1 $L_1/L_2$ 比值能否作为 $L_0$ 和 $L_p$（$p<1$）最小化在稀疏恢复中的可行、无参数替代方案？
• RQ2 $L_1/L_2$ 模型是否满足一种强零空间性质（sNSP），从而保证稀疏信号的精确恢复？
• RQ3 与 $L_1$、$L_p$（$p<1$）和 TL1 等最先进方法相比，$L_1/L_2$ 模型在实际应用中的表现如何？
• RQ4 $L_1/L_2$ 模型能否扩展到基于梯度的稀疏性，如在总变差正则化中用于图像重建？
• RQ5 $L_1/L_2$ 模型对矩阵相干性是否具有鲁棒性，并在高度相干的感知场景中是否有效？

主要发现

• 若感知矩阵 $A$ 满足所提出的强零空间性质（sNSP），则理论证明 $L_1/L_2$ 模型的任意 $s$-稀疏向量均为局部极小值。
• 理论分析表明，在 sNSP 条件下，$L_1/L_2$ 模型可实现精确恢复，且该条件是稀疏恢复的充分必要条件。
• 实验结果表明，$L_1/L_2$ 模型在稀疏信号恢复任务中表现与最先进方法（如 $L_p$（$p<1$）和 TL1）相当。
• 该方法为无参数方法，无需调节正则化参数，相较于 $L_p$ 和 TL1 模型具有显著优势。
• 将 $L_1/L_2$ 模型的一种变体应用于信号梯度，实现了有效的 MRI 重建，并通过概念验证示例加以说明。
• 基于 ADMM 的约束型 $L_1/L_2$ 求解算法在数值实验中表现出可靠且高效的收敛性。