[论文解读] Analyzing the group sparsity based on the rank minimization methods

Zhiyuan Zha, Xin Liu+6 more|arXiv (Cornell University)|Nov 28, 2016

Sparse and Compressive Sensing Techniques参考文献 13被引用 6

一句话总结

该论文提出了一种基于秩最小化的新型组稀疏性分析框架，通过奇异值估计建立组稀疏编码与低秩矩阵逼近之间的等价性。通过利用加权Schatten $p$-范数最小化（WSNM）和ADMM，该方法在图像修复和压缩感知恢复任务中实现了最先进性能，其中WSNM通过奇异值为真实组稀疏性提供了稳健的基准。

ABSTRACT

Sparse coding has achieved a great success in various image processing studies. However, there is not any benchmark to measure the sparsity of image patch/group because sparse discriminant conditions cannot keep unchanged. This paper analyzes the sparsity of group based on the strategy of the rank minimization. Firstly, an adaptive dictionary for each group is designed. Then, we prove that group-based sparse coding is equivalent to the rank minimization problem, and thus the sparse coefficient of each group is measured by estimating the singular values of each group. Based on that measurement, the weighted Schatten $p$-norm minimization (WSNM) has been found to be the closest solution to the real singular values of each group. Thus, WSNM can be equivalently transformed into a non-convex $\ell_p$-norm minimization problem in group-based sparse coding. To make the proposed scheme tractable and robust, the alternating direction method of multipliers (ADMM) is used to solve the $\ell_p$-norm minimization problem. Experimental results on two applications: image inpainting and image compressive sensing (CS) recovery have shown that the proposed scheme outperforms many state-of-the-art methods.

研究动机与目标

• 为解决由于稀疏判别条件不具备不变性而导致图像处理中组稀疏性测量缺乏可靠基准的问题。
• 通过奇异值分析，建立基于组的稀疏编码与秩最小化之间的理论等价性。
• 开发一种计算高效的自适应字典学习方案，避免昂贵的全局字典学习。
• 证明加权Schatten $p$-范数最小化（WSNM）能最接近图像组的真实奇异值。
• 在真实世界图像恢复任务中验证所提方法，结果表明其性能优于现有最先进方法。

提出的方法

• 为每个图像组设计自适应字典，以相比全局字典学习降低计算复杂度。
• 提供理论证明，表明基于组的稀疏编码等价于一个秩最小化问题，从而可通过每组的奇异值实现稀疏性度量。
• 识别出加权Schatten $p$-范数最小化（WSNM）是每组真实奇异值的最近似，从而实现精确的稀疏性量化。
• 将非凸的 $\ell_p$-范数最小化问题从WSNM重新表述，以实现比 $\ell_1$-范数更精确的稀疏表示。
• 采用交替方向乘子法（ADMM）高效且稳健地求解非凸 $\ell_p$-范数最小化问题。
• 将该方法应用于图像修复和压缩感知（CS）恢复，通过涉及对偶变量软阈值化的ADMM迭代求解优化问题。

实验结果

研究问题

• RQ1 秩最小化能否提供一个可靠的基准，用于测量图像块的组稀疏性，从而克服 $\ell_0$ 和 $\ell_1$-范数的局限性？
• RQ2 基于组的稀疏编码与通过奇异值分解实现的低秩矩阵逼近之间是否存在理论等价性？
• RQ3 加权Schatten $p$-范数最小化（WSNM）是否比其他核范数更接近图像组的真实奇异值？
• RQ4 从WSNM导出的非凸 $\ell_p$-范数问题的ADMM解法能否实现优于现有方法的图像恢复性能？
• RQ5 所提出的自适应字典学习方案是否在图像修复和压缩感知中相比标准稀疏编码提升了效率与性能？

主要发现

• 所提方法在图像修复任务中实现了最先进性能，PSNR和SSIM指标均优于现有方法。
• 在压缩感知恢复中，该方法展现出更优的重建质量，PSNR和SSIM值高于对比方法。
• 实验证明加权Schatten $p$-范数最小化（WSNM）最接近图像组的真实奇异值，验证了其作为稀疏性基准的有效性。
• 理论证明了基于组的稀疏编码与秩最小化之间的等价性，为稀疏性分析提供了新基础。
• 基于ADMM的优化框架确保了稳定且高效的收敛，使该方法可实际部署于大规模图像恢复任务。
• 自适应字典设计显著降低了计算成本，同时保持了高重建精度。