[论文解读] A Local Block Coordinate Descent Algorithm for the Convolutional Sparse Coding Model

Ev Zisselman, Jeremias Sulam+1 more|arXiv (Cornell University)|Nov 1, 2018

Sparse and Compressive Sensing Techniques参考文献 31被引用 6

一句话总结

该论文提出了一种新型算法——局部块坐标下降法（LoBCoD），用于卷积稀疏编码（CSC），该算法在图像块上局部使用块坐标下降法，无需引入辅助变量和ADMM参数。该方法在图像修复和多焦点融合任务中实现了最先进性能，相较于傅里叶域ADMM方法，收敛速度更快，内存占用更低。

ABSTRACT

The Convolutional Sparse Coding (CSC) model has recently gained considerable traction in the signal and image processing communities. By providing a global, yet tractable, model that operates on the whole image, the CSC was shown to overcome several limitations of the patch-based sparse model while achieving superior performance in various applications. Contemporary methods for pursuit and learning the CSC dictionary often rely on the Alternating Direction Method of Multipliers (ADMM) in the Fourier domain for the computational convenience of convolutions, while ignoring the local characterizations of the image. A recent work by Papyan et al. suggested the SBDL algorithm for the CSC, while operating locally on image patches. SBDL demonstrates better performance compared to the Fourier-based methods, albeit still relying on the ADMM. In this work we maintain the localized strategy of the SBDL, while proposing a new and much simpler approach based on the Block Coordinate Descent algorithm - this method is termed Local Block Coordinate Descent (LoBCoD). Furthermore, we introduce a novel stochastic gradient descent version of LoBCoD for training the convolutional filters. The Stochastic-LoBCoD leverages the benefits of online learning, while being applicable to a single training image. We demonstrate the advantages of the proposed algorithms for image inpainting and multi-focus image fusion, achieving state-of-the-art results.

研究动机与目标

• 解决傅里叶域ADMM方法在CSC中的局限性，这些方法需要辅助变量，内存占用高，且依赖于难以调优的参数。
• 通过卷积稀疏编码（CSC）框架实现全局建模，克服基于图像块的稀疏编码的次优性。
• 开发一种直接在信号域中使用块坐标下降法的局部非ADMM方法，用于CSC求解，提升计算效率和收敛速度。
• 提出一种随机梯度变体（Stochastic-LoBCoD），用于在线单图像字典学习，实现对单个训练样本的高效适应。
• 在图像修复和多焦点图像融合任务中，性能优于最先进方法（包括SBDL和[21]），表现更优。

提出的方法

• 提出LoBCoD，一种块坐标下降算法，通过仅在图像域中进行局部计算，交替优化局部稀疏表示和卷积滤波器。
• 通过在重叠图像块上直接对CSC目标函数进行坐标下降，避免使用辅助变量和ADMM参数。
• 采用局部追索策略，每个图像块独立处理，使用固定字典，随后通过卷积合成实现全局重建。
• 提出Stochastic-LoBCoD，一种随机梯度下降变体，利用单个训练图像的迷你批次更新卷积滤波器，支持在线学习。
• 采用两阶段交替优化：使用LoBCoD进行稀疏追索，通过重建核$U_s$提取基础图像，参数设置为$\lambda=1$和$\mu=5$。
• 在Lab颜色空间中利用局部稀疏性和活跃度图进行多焦点融合，基于各通道的像素级最大活跃度选择区域。

实验结果

研究问题

• RQ1 块坐标下降方法是否能在避免辅助变量和调参的前提下，优于基于ADMM的CSC求解方法？
• RQ2 与傅里叶域ADMM方法相比，局部非ADMM的CSC算法是否在内存效率和收敛速度方面表现更优？
• RQ3 LoBCoD的随机梯度变体是否能实现从单幅图像出发的有效在线字典学习？
• RQ4 在图像修复和多焦点融合任务中，LoBCoD与最先进方法相比，在PSNR和视觉质量方面表现如何？
• RQ5 LoBCoD中基于局部图像块的策略在保持计算可行性的同时，能在多大程度上保留全局图像结构？

主要发现

• 在Bird图像融合任务中，LoBCoD实现了39.81 dB的PSNR，优于先前方法[21]的39.29 dB。
• 在Butterfly图像上，所提方法在视觉效果上表现更优，细节更清晰，模糊更少，尤其在高度模糊区域表现更佳。
• 在合成数据上，方法取得了较高的PSNR值：Barbara图像为38.45 dB，Butterfly图像为37.68 dB，展现出强大的重建性能。
• 该算法仅需在稀疏追索与基础图像提取之间交替2–4轮即可收敛，表明其收敛速度快。
• Stochastic-LoBCoD能够从单幅图像中实现有效的字典学习，保留了在线学习的优势，且无需大规模数据集。
• 由于采用局部、无变量的优化策略，该方法在内存效率和可并行化方面优于基于ADMM的方法。