[论文解读] Epigraphical splitting for solving constrained convex formulations of inverse problems with proximal tools

Giovanni Chierchia, Nelly Pustelnik+2 more|arXiv (Cornell University)|Oct 22, 2012

Sparse and Compressive Sensing Techniques参考文献 101被引用 9

一句话总结

该论文提出了一种图示分裂技术，以高效求解逆问题中约束凸优化问题的近似算法。通过将非线性约束重新表述为凸函数的图示（epigraphs），特别是针对距离函数和 ℓ₁,p 范数（其中 p ∈ {2, ∞}），该方法实现了闭式投影，与标准迭代方法相比，在图像复原和脉冲波形设计应用中显著加速了收敛速度。

ABSTRACT

We propose a proximal approach to deal with a class of convex variational problems involving nonlinear constraints. A large family of constraints, proven to be effective in the solution of inverse problems, can be expressed as the lower level set of a sum of convex functions evaluated over different, but possibly overlapping, blocks of the signal. For such constraints, the associated projection operator generally does not have a simple form. We circumvent this difficulty by splitting the lower level set into as many epigraphs as functions involved in the sum. A closed half-space constraint is also enforced, in order to limit the sum of the introduced epigraphical variables to the upper bound of the original lower level set. In this paper, we focus on a family of constraints involving linear transforms of distance functions to a convex set or $\ell_{1,p}$ norms with $p\in \{1,2,\infty\}$. In these cases, the projection onto the epigraph of the involved function has a closed form expression. The proposed approach is validated in the context of image restoration with missing samples, by making use of constraints based on Non-Local Total Variation. Experiments show that our method leads to significant improvements in term of convergence speed over existing algorithms for solving similar constrained problems. A second application to a pulse shape design problem is provided in order to illustrate the flexibility of the proposed approach.

研究动机与目标

• 解决在逆问题中，当闭式解不可用时，计算复杂凸约束投影的挑战。
• 开发一种分裂策略，将非平凡约束转化为图示和半空间约束，从而可高效计算其投影。
• 通过利用特定函数类的闭式图示投影，加速近端算法的收敛速度。
• 在非局部总变差图像复原和脉冲波形设计中，验证该方法的有效性。
• 提供一种灵活的框架，可适用于任意数量的凸约束，而不仅限于实验中所测试的情况。

提出的方法

• 通过引入辅助变量，将形如 h_s(H_s x) ≤ η_s 的约束重新表述为图示约束和半空间约束。
• 将凸函数 f 的图示定义为集合 {(x, ζ) | f(x) ≤ ζ}，当 f 为到凸集的距离函数或 ℓ_p 范数（p ∈ {2, ∞}）时，可实现闭式投影。
• 应用变量分裂，将原问题分解为涉及图示和标准凸集投影的子问题。
• 利用近端算法（如 ADMM）求解分裂后的问题，利用图示投影的闭式解。
• 通过约束集的精确重构，确保原约束问题与分裂公式的等价性。
• 在图像复原和脉冲设计中验证该方法，并与标准迭代投影方案比较收敛速度。

实验结果

研究问题

• RQ1 图示分裂是否能为涉及信号块上凸函数和的约束实现闭式投影？
• RQ2 与标准迭代投影方法相比，图示分裂是否能在近端算法中实现更快的收敛速度？
• RQ3 该方法在基于非局部总变差的图像复原约束中效果如何？
• RQ4 该方法能否扩展至处理逆问题中任意数量的凸约束？
• RQ5 在使用 ℓ₁,2 和 ℓ₁,∞ 范数的图示投影时，收敛速度的性能提升如何？

主要发现

• 图示分裂方法可为到凸集的距离函数和 ℓ_p 范数（p ∈ {2, ∞}）实现闭式投影，克服了直接投影不可行的问题。
• 在存在缺失样本的图像复原中，所提方法相比标准迭代求解器实现了显著更快的收敛速度，尤其在使用非局部总变差约束时表现更优。
• 在脉冲波形设计中，该方法提供了更大的设计灵活性，并产生了与最先进结果相当的解，尤其在 β = 2 和小 ε 条件下表现突出。
• ℓ₁,2 范数在图像恢复任务中优于 ℓ₁,∞ 范数，表明其在图像表示中具有更好的块稀疏性促进能力。
• 该方法比基于直接投影的算法收敛更快，且并行化可进一步加速执行。
• 该框架具有通用性，可应用于任意数量的凸约束，不限于实验中展示的双约束情形。