[论文解读] A new splitting method for solving composite monotone inclusions involving parallel-sum operators

Quoc Tran-Dinh, Bằng Công Vũ|arXiv (Cornell University)|May 29, 2015

Optimization and Variational Analysis参考文献 24被引用 4

一句话总结

本文提出了一种新颖的原始-对偶分裂方法，用于求解涉及利普希茨连续型与并联和型单调算子的复合单调包含问题。通过利用库恩-塔克集并分别计算每个单调算子的预估算子，该方法确保了弱收敛至解，相较于现有方法，提供了更具灵活性和模块化的求解方式，尤其适用于通过独立的近端算子实现的复合凸最小化问题。

ABSTRACT

We propose a new primal-dual splitting method for solving composite inclusions involving Lipschitzian, and parallel-sum-type monotone operators. Our approach extends the framework in \cite{Siopt4} to a more general class of monotone inclusions in a nontrivial fashion. The main idea is to represent the solution set of both the primal and dual problems using their associated Kuhn-Tucker set, and then develop a projected method to successively approximate a feasible point of the Kuhn-Tucker set. We propose a splitting algorithm based on the resolvent of each maximally monotone operator to construct a primal-dual sequence that weakly converges to a solution of the original problem. The key feature of our method is that it only employes the resolvent of each monotone operator separately, which is different from existing methods in the literature. As a byproduct, our algorithm can be specialized to solve composite convex minimization problems that uses the proximal-operator of each objective component independently, and is equipped with a weakly convergence guarantee.

研究动机与目标

• 解决涉及并联和型单调算子的复合单调包含问题，该类问题广泛推广了多种结构化单调包含问题。
• 将现有原始-对偶方法扩展至超越先前框架适用范围的更广泛类别的单调包含问题。
• 开发一种仅需每个独立单调算子预估算子的方法，避免复杂的联合预估算子计算。
• 确保原始-对偶序列弱收敛至原问题的解。
• 提供一种灵活的算法框架，适用于通过独立近端算子实现的复合凸最小化问题。

提出的方法

• 通过库恩-塔克集表示原始问题与对偶问题的解集，该集合封装了最优性条件。
• 设计一种投影迭代格式，以逐步逼近库恩-塔克集中的可行点。
• 通过分别使用每个极大单调算子的预估算子，构建原始-对偶序列，避免联合预估算子的计算。
• 基于库恩-塔克集的性质与投影机制，证明了序列的弱收敛性。
• 通过独立处理每个目标分量的近端算子，将该方法特化至复合凸最小化问题。
• 该方法仅依赖于每个算子的预估算子，从而增强了模块化与计算可行性。

实验结果

研究问题

• RQ1 原始-对偶分裂方法如何被扩展以处理涉及并联和型单调算子的复合单调包含问题？
• RQ2 能否设计一种仅需每个独立单调算子预估算子、无需联合预估算子计算的分裂方法？
• RQ3 当应用于具有可分目标的复合凸最小化问题时，此类方法的收敛行为如何？
• RQ4 库恩-塔克集框架如何在此背景下实现对原始与对偶可行性的一体化处理？
• RQ5 在新的分裂策略下，原始-对偶序列弱收敛的条件是什么？

主要发现

• 所提方法实现了原始-对偶序列弱收敛至原复合单调包含问题的解。
• 该算法仅需每个独立单调算子的预估算子，支持模块化与高效实现。
• 该方法通过容纳更广泛的单调包含问题类（包括并联和算子）而推广了先前框架。
• 该方法可通过独立处理每个目标分量的近端算子，特化用于求解复合凸最小化问题。
• 将库恩-塔克集作为解的表示形式，使得收敛性分析得以统一且结构化。
• 在可分且结构化的单调包含问题背景下，该方法在比某些现有方法更弱的假设下提供了新的收敛保证。