[论文解读] A Primal-Dual Algorithm for General Convex-Concave Saddle Point Problems

Erfan Yazdandoost Hamedani, Necdet Serhat Aybat|arXiv (Cornell University)|Mar 4, 2018

Sparse and Compressive Sensing Techniques参考文献 26被引用 46

一句话总结

该论文提出了一种带有动量的原始-对偶算法，用于处理具有非双线性耦合项 $Φ(x,y)$ 的一般凸-凹鞍点问题，实现了在 $f$ 为凸函数时的 $Ó(1/k)$ 收敛速率，以及在 $f$ 为强凸函数且 $Ø(x,\cdot)$ 关于 $y$ 为线性时的 $Ó(1/k^2)$ 收敛速率，将先前研究从双线性耦合扩展到了更一般的情形。该方法在核矩阵学习任务上得到验证，性能优于镜像-近端法（Mirror-Prox）和内点法。

ABSTRACT

In this paper we propose a primal-dual algorithm with a momentum term that can be viewed as a generalization of the method proposed by Chambolle and Pock in 2016 to solve saddle point problems defined by a convex-concave function $\mathcal{L}(x,y)=f(x)+\Phi(x,y)-h(y)$ with a general coupling term $\Phi(x,y)$ that is not assumed to be bilinear. Given a saddle point $(x^*,y^*)$, assuming $ abla_y\Phi(\cdot,\cdot)$ is Lipschitz and $ abla_x\Phi(\cdot,y)$ is Lipschitz in $x$ for any fixed $y$, we derive error bounds in terms of $\mathcal{L}(\bar{x}_k,x^*)-\mathcal{L}(y^*,\bar{y}_k)$ for the ergodic sequence $\{\bar{x}_k,\bar{y}_k\}$; in particular, we show $\mathcal{O}(1/k)$ rate that when the problem is merely convex in $x$. Furthermore, assuming $\Phi(x,\cdot)$ is linear in $y$ for each fixed $x$ and $f$ is strongly convex, we can obtain the ergodic convergence rate of $\mathcal{O}(1/k^2)$ - we are not aware of any other work in the related literature showing $\mathcal{O}(1/k^2)$ rate when $\Phi$ is not bilinear. We tested our method for solving kernel matrix learning problem, and compare it against the Mirror-prox algorithm and interior point methods.

研究动机与目标

• 提出一种原始-对偶算法，将现有方法推广至凸-凹鞍点问题中非双线性耦合项的情形。
• 在耦合函数 $Φ(x,y)$ 的一般假设下，建立对偶迭代序列的收敛速率。
• 在 $f$ 为强凸函数且 $Φ(x,\cdot)$ 关于 $y$ 为线性时，实现 $Ó(1/k^2)$ 的收敛速率，这是文献中首次获得的此类结果。
• 在核矩阵学习任务上对算法进行实验评估，并与镜像-近端法和内点法进行比较。

提出的方法

• 该算法在原始-对偶更新框架中引入动量项，将 Chambolle-Pock 方法推广至非双线性耦合情形。
• 对原始变量 $x$ 和对偶变量 $y$ 采用类似邻近的更新方式，步长选择确保收敛性。
• 该方法假设 $\nabla_y\Phi(\cdot,\cdot)$ 和 $\nabla_x\Phi(\cdot,y)$ 关于 $y$ 固定时满足利普希茨连续性，从而支持误差分析。
• 通过对偶间隙 $\mathcal{L}(\bar{x}_k, y^*) - \mathcal{L}(x^*, \bar{y}_k)$ 分析聚合迭代序列 $\{\bar{x}_k, \bar{y}_k\}$，该量界定了最优性差距。
• 在核矩阵学习中通过将问题建模为具有非双线性耦合项的鞍点问题，应用该算法。
• 采用李雅普诺夫函数方法分析收敛性，推导出误差界。

实验结果

研究问题

• RQ1 带有动量的原始-对偶算法能否在具有非双线性耦合项的一般凸-凹鞍点问题中实现 $Ó(1/k)$ 的收敛速率？
• RQ2 当 $f$ 为强凸函数且 $\Phi(x,\cdot)$ 关于 $y$ 为线性时，即使不存在双线性性，是否仍可实现 $Ó(1/k^2)$ 的收敛速率？
• RQ3 在核矩阵学习问题中，该方法与镜像-近端法和内点法相比在实际表现上如何？
• RQ4 对 $\Phi(x,y)$ 需要施加哪些假设，才能在非双线性情形下保证收敛性与速率分析？
• RQ5 动量项是否能在非双线性设置中有效加速收敛？

主要发现

• 当 $f$ 为凸函数且耦合项 $\Phi(x,y)$ 满足较弱的利普希茨条件时，该算法对聚合序列实现了 $Ó(1/k)$ 的收敛速率。
• 在额外假设 $f$ 为强凸函数且 $\Phi(x,\cdot)$ 关于 $y$ 为线性时，该方法实现了 $Ó(1/k^2)$ 的收敛速率，这是文献中首次针对非双线性耦合项建立的此类结果。
• 误差界以对偶间隙 $\mathcal{L}(\bar{x}_k, y^*) - \mathcal{L}(x^*, \bar{y}_k)$ 表达，该量量化了最优性差距。
• 该方法在核矩阵学习任务上进行了实验验证，表现优于镜像-近端法和内点法。
• 理论分析未要求 $\Phi(x,y)$ 为双线性，从而推广了依赖于该严格假设的先前工作。
• 所提出的算法将原始-对偶方法的应用范围扩展至具有通用耦合项的更广泛类鞍点问题。