[论文解读] ADMM-MCP Framework for Sparse Recovery with Global Convergence

Hao Wang, Zhang-Lei Shi+2 more|arXiv (Cornell University)|May 2, 2018

Sparse and Compressive Sensing Techniques参考文献 23被引用 3

一句话总结

该论文提出了一种ADMM-MCP框架，用于压缩感知中的稀疏信号恢复，通过将最小最大凹惩罚（MCP）与交替方向乘子法（ADMM）及改进的迭代硬阈值（IHT）方案相结合，实现了全局收敛。该方法在较温和的假设下可收敛至全局最优解，并在重建精度方面优于当前最先进的算法，且所需测量次数更少。

ABSTRACT

In compressed sensing, the l0-norm minimization of sparse signal reconstruction is NP-hard. Recent work shows that compared with the best convex relaxation (l1-norm), nonconvex penalties can better approximate the l0-norm and can reconstruct the signal based on fewer observations. In this paper, the original problem is relaxed by using minimax concave penalty (MCP). Then alternating direction method of multipliers (ADMM) and modified iterative hard thresholding method are used to solve the problem. Under certain reasonable assumptions, the global convergence of the proposed method is proved. The parameter setting is also discussed. Finally, through simulations and comparisons with several state-of-the-art algorithms, the effectiveness of proposed method is confirmed.

研究动机与目标

• 通过用更接近稀疏性的非凸惩罚替代$l_0$-范数最小化，解决稀疏信号恢复中$l_0$-范数最小化的NP难问题。
• 克服$l_1$-范数松弛的局限性，后者需要更多测量次数，并对精确恢复施加严格条件。
• 开发一种全局收敛算法，避免对初始化的依赖，与现有迭代硬阈值方法不同。
• 在统一框架中结合ADMM（用于分解与收敛）和MCP（用于无偏、非凸的稀疏性促进）的优势。
• 为正则化参数$\lambda$提供理论支持的参数选择策略。

提出的方法

• 使用最小最大凹惩罚（MCP）对原始$l_0$-范数最小化问题进行松弛，提供一种非凸、连续的稀疏性近似。
• 采用ADMM框架将问题分解为子问题，通过在增广拉格朗日函数上进行对偶上升迭代求解。
• 将改进的迭代硬阈值（IHT）步骤集成到ADMM方案中，通过仅保留最大的$\tau$个分量，在每次迭代中强制实现稀疏性。
• 算法在更新原变量$\boldsymbol{x}$、对偶变量$\boldsymbol{u}$和辅助变量$\boldsymbol{w}$之间交替进行，确保在较温和假设下的收敛性。
• 引入线搜索策略调整惩罚参数$\lambda$，以平衡数据保真度与稀疏性，分析了两种参数选择规则。

实验结果

研究问题

• RQ1 能否将MCP等非凸惩罚与ADMM有效结合，实现在稀疏恢复中的全局收敛？
• RQ2 所提出的ADMM-MCP框架是否在重建精度和测量效率方面优于基于$l_1$的凸方法及其他非凸求解器？
• RQ3 ADMM中改进的IHT步骤是否能在MCP惩罚非凸性的条件下确保全局收敛？
• RQ4 性能对正则化参数$\lambda$的选择有多敏感？自动选择策略是否有效？
• RQ5 在不同噪声水平和稀疏性水平下，该算法的收敛行为如何？

主要发现

• 所提出的ADMM-MCP方法在较温和假设下实现了全局收敛，消除了对精细初始化的依赖。
• 仿真结果表明，与基于$l_1$的方法相比，该方法在实现相同精确重建概率时所需测量次数显著更少（$N=512$和$N=4096$时）。
• 采用第一种参数选择方法时，该算法实现了接近最优的性能，优于SPGL1、FOCUSS及其他非凸求解器，尤其在高噪声条件下。
• 第二种参数选择方法虽精度略低于第一种，但仍优于大多数对比算法，并支持自动调参。
• 即使在低信噪比（$\sigma = 0.01$）条件下，算法也能在100–150次迭代内收敛，表现出良好的鲁棒性与效率。
• 该方法对初始化具有鲁棒性，如从$\boldsymbol{x}^0 = \mathbf{0}$、$\boldsymbol{u}^0 = \mathbf{0}$和$\boldsymbol{w}^0 = \mathbf{0}$开始也能成功恢复信号。