[论文解读] A splitting algorithm for dual monotone inclusions involving cocoercive operators

Bằng Công Vũ|arXiv (Cornell University)|Oct 8, 2011

Optimization and Variational Analysis参考文献 21被引用 7

一句话总结

本文提出了一种新颖的原始-对偶分裂算法，用于求解涉及利普希茨连续型算子的单调包含问题，通过前向-后向步骤与对偶性结合，在利普希茨连续性假设下实现弱收敛与强收敛。主要贡献是一个统一的框架，可恢复并扩展近期提出的若干算法，在算子假设最小化条件下提供收敛性保证。

ABSTRACT

We consider the problem of solving dual monotone inclusions involving sums of composite parallel-sum type operators. A feature of this work is to exploit explicitly the cocoercivity of some of the operators appearing in the model. Several splitting algorithms recently proposed in the literature are recovered as special cases.

研究动机与目标

• 开发一种用于求解复合并行和型算子之和的对偶单调包含问题的分裂算法。
• 显式利用某些算子的利普希茨连续性，以改善收敛性与算法结构。
• 在单一框架下统一并推广文献中近期提出的若干算法。
• 在最小且可验证的条件下，建立弱收敛与强收敛结果。
• 通过芬彻尔-罗卡费拉尔对偶与莫斯科对偶，将方法应用于凸最小化问题。

提出的方法

• 该算法采用带松弛参数 $\lambda_n$ 的前向-后向分裂方法，迭代更新原始变量与对偶变量。
• 通过并行和算子 $B_i \square D_i$ 在对偶空间中建模复合单调包含问题。
• 该方法依赖于极大单调算子的预解算子以及算子 $C$ 的利普希茨连续性，以确保收敛性。
• 算法源自原始-对偶形式，其中原始变量 $x_n$ 与对偶变量 $v_{i,n}$ 通过近端与梯度步骤进行更新。
• 算法中引入误差项 $a_{1,n}, a_{2,n}, c_{i,n}, b_{i,n}$ 以建模非精确或扰动计算，且在误差序列可 summable 的条件下仍能保持收敛性。
• 通过应用验证该框架，其中 $C = \nabla h$ 由于巴伊永-哈达德定理而具备利普希茨连续性。

实验结果

研究问题

• RQ1 能否设计一种用于包含利普希茨连续型算子的对偶单调包含问题的分裂算法，以统一现有方法？
• RQ2 在利普希茨连续性假设下，何种条件可确保所提算法的弱收敛与强收敛？
• RQ3 利普希茨连续性的引入如何改善原始-对偶分裂算法的结构与收敛性？
• RQ4 在何种情形下，该算法退化为已知方法（如 [10]、[18] 或 [22] 中的方法）？
• RQ5 保证迭代格式收敛的最小问题数据条件是什么？

主要发现

• 在标准单调性与利普希茨连续性假设下，所提算法弱收敛于原始包含式 (1.2) 与对偶包含式 (1.3) 的解。
• 当目标函数 $h$ 在解处为一致凸时，可实现强收敛，此时 $\nabla h$ 为一致单调。
• 当 $\ell_i$ 为 $\{0\}$ 的示性函数且 $z=0$ 时，该算法作为特例恢复并扩展了 [18, 式 (36)] 的方法。
• 在有限维空间中且 $\lambda_n \equiv 1$ 时，该算法退化为 [10, 算法 1] 的方法，且在相同条件下保持收敛性。
• 即使在非精确或扰动计算下，只要误差序列可 summable，算法仍保持收敛性。
• 该框架统一处理了芬彻尔-罗卡费拉尔对偶与莫斯科对偶，以及凸优化中的其他经典情形。