[论文解读] Weighted $\ell_1$ Minimization for Sparse Recovery with Prior Information

Moein Khajehnejad, Weiyu Xu+2 more|ArXiv.org|Jan 19, 2009

Sparse and Compressive Sensing Techniques参考文献 8被引用 27

一句话总结

该论文提出了一种加权 ℓ₁ 最小化算法，用于在先验概率表明两个信号子集中的非零项具有不同可能性时进行稀疏信号恢复。通过为具有较高非零概率的项分配较低权重，该方法提升了恢复性能。作者利用格拉斯曼几何和拉普拉斯方法推导出成功恢复的显式条件，表明最优权重可显著提高弱阈值，相较于标准 ℓ₁ 最小化有明显优势。

ABSTRACT

In this paper we study the compressed sensing problem of recovering a sparse signal from a system of underdetermined linear equations when we have prior information about the probability of each entry of the unknown signal being nonzero. In particular, we focus on a model where the entries of the unknown vector fall into two sets, each with a different probability of being nonzero. We propose a weighted $\ell_1$ minimization recovery algorithm and analyze its performance using a Grassman angle approach. We compute explicitly the relationship between the system parameters (the weights, the number of measurements, the size of the two sets, the probabilities of being non-zero) so that an iid random Gaussian measurement matrix along with weighted $\ell_1$ minimization recovers almost all such sparse signals with overwhelming probability as the problem dimension increases. This allows us to compute the optimal weights. We also provide simulations to demonstrate the advantages of the method over conventional $\ell_1$ optimization.

研究动机与目标

• 通过整合不同信号分量中非零项概率的先验信息，提升压缩感知中的稀疏信号恢复性能。
• 开发一种适应异质稀疏模式的加权 ℓ₁ 最小化框架，尤其适用于某些项比其他项更可能为非零的情况。
• 从理论上确定在维度增加时，加权 ℓ₁ 最小化以高概率成功恢复信号的条件。
• 基于稀疏性概率和测量系统参数，计算两分量信号模型下的最优权重。
• 通过仿真验证理论优势，显示其恢复成功率显著高于标准 ℓ₁ 最小化方法。

提出的方法

• 提出一种两组加权 ℓ₁ 最小化框架，其中集合 K₁（非零概率为 P₁）和 K₂（非零概率为 P₂）的项分别被赋予不同的权重 w₁ 和 w₂。
• 采用基于零空间表征的格拉斯曼流形方法分析恢复性能，以几何框架替代邻接性条件。
• 应用拉普拉斯方法计算决定弱阈值的外部和内部角度指数。
• 利用高斯积分和渐近分析，推导出外部指数 ψ_ext(t₁,t₂) 和内部指数 ψ_int(t₁,t₂) 的显式方程。
• 引入速率函数 Λ*(y)，并求解 s* 以计算内部角度指数，从而推导出整体恢复阈值。
• 在积分中使用变量替换，将加权 ℓ₁ 范数转化为标准 ℓ₂ 类型积分，以实现解析可处理性。

实验结果

研究问题

• RQ1 当已知非零项的先验概率时，加权 ℓ₁ 最小化能否提升压缩感知中的恢复阈值？
• RQ2 对于具有不同非零概率 P₁ 和 P₂ 的两分量稀疏信号，最优权重 w₁ 和 w₂ 应如何选择？
• RQ3 为确保以高概率实现恢复，测量数 m 如何随 n、P₁、P₂、n₁ 和 n₂ 变化？
• RQ4 系统参数与加权 ℓ₁ 最小化弱阈值之间的解析关系是什么？
• RQ5 在实际应用中，加权 ℓ₁ 最小化与标准 ℓ₁ 最小化相比性能如何？

主要发现

• 论文推导出弱阈值的显式公式，其表达式涉及 P₁、P₂、n₁、n₂ 以及权重 w₁、w₂，表明最优权重可显著提升恢复性能。
• 当 δ = m/n = 0.75 且 P₂ = 0.1 时，加权 ℓ₁ 方法使 P₁ 的恢复阈值高于标准 ℓ₁ 最小化，理论与仿真结果均证实了这一点。
• 对于集合 K₂（非零概率 P₂ 较低）中的项，最优权重 w₂ 大于 1，且随 P₁ 变化；仿真表明最优 w₂ 可提升恢复成功率。
• 利用格拉斯曼几何和拉普拉斯方法的理论分析，得到了外部和内部角度指数的精确表达式，这些指数对确定弱阈值至关重要。
• 仿真结果证实，加权 ℓ₁ 最小化在恢复成功率方面优于标准 ℓ₁ 最小化，尤其在 P₁ 变化且采用最优权重时表现更优。
• 通过利用稀疏性概率的先验知识，该方法实现了接近最优的恢复性能，在理论和实证评估中均优于传统 ℓ₁ 最小化方法。