[论文解读] A primal-dual smoothing gap reduction framework for strongly convex-generally concave saddle point problems

Le Thi Khanh Hien, Renbo Zhao+1 more|arXiv (Cornell University)|Nov 10, 2017

Stochastic Gradient Optimization Techniques参考文献 25被引用 10

一句话总结

本文提出了一种原始-对偶平滑间隙减少框架，用于求解强凸-一般凹型鞍点问题。该方法在确定性和随机设置下均实现了 $O(1/\sqrt{\varepsilon})$ 的最优收敛速率，且具有高概率保证，并可应用于具有大量分量或约束的大规模凸优化问题，同时保持最优性间隙和约束违反度的相同迭代复杂度。

ABSTRACT

In this paper, we propose a new approach for finding a saddle point of a function $\mathcal{L}(x,\lambda)$ which is strongly convex in $x$ and generally concave in $\lambda$. We prove that, in the deterministic setting, to obtain an $\varepsilon$-optimal solution, this class of algorithms achieves the convergence rate $O\left(1/{\sqrt{\varepsilon}} ight)$. In the stochastic setting, where we utilize fast first order randomized algorithms to solve the sub-problems of our framework, we prove that this class of algorithms preserves the convergence rate $O\left(1/{\sqrt{\varepsilon}} ight)$ with high probability. We then apply our general algorithm to a large-scale convex constrained optimization problem, where the objective function is strongly convex and it consists of a large number of component functions or the number of convex constraints is prodigious. We establish the overall iteration complexity $O\left(1/{\sqrt{\varepsilon}} ight)$ for the optimality gap and constraint violation.

研究动机与目标

• 开发一种新型算法框架，用于求解目标函数在原始变量上强凸、在对偶变量上一般凹的鞍点问题。
• 在确定性和随机设置下，建立该框架的收敛速率，特别是当子问题求解存在噪声或随机化时。
• 将该框架应用于具有大量分量函数或约束的大规模凸优化问题，确保高效的迭代复杂度。

提出的方法

• 该框架采用平滑技术处理鞍函数中的一般凹部分，将其转化为更易处理的形式。
• 引入一种间隙减少机制，通过迭代方式逐步减小原始和对偶迭代之间的对偶间隙。
• 在随机设置下，使用快速一阶随机算法高效求解子问题，同时保持收敛性保证。
• 设计了一种原始-对偶更新方案，以在原始和对偶进展之间保持平衡，确保在弱凹性假设下的收敛性。
• 利用原始变量中的强凸性加速收敛并稳定迭代过程。

实验结果

研究问题

• RQ1 在确定性设置下，原始-对偶平滑框架能否实现强凸-一般凹型鞍点问题的 $O(1/\sqrt{\varepsilon})$ 收敛速率？
• RQ2 当在随机设置下使用随机一阶方法求解子问题时，该框架是否仍能保持相同的收敛速率？
• RQ3 当应用于具有大量分量或约束的大规模凸优化问题时，该框架的整体迭代复杂度是多少？
• RQ4 间隙减少机制如何在对偶变量的一般凹性条件下促进收敛？
• RQ5 该框架能否在大规模问题中同时确保最优性间隙和约束违反度以相同速率 $O(1/\sqrt{\varepsilon})$ 收敛？

主要发现

• 所提出的框架在确定性设置下，实现了寻找 $\varepsilon$-最优鞍点的 $O(1/\sqrt{\varepsilon})$ 收敛速率。
• 在随机设置下，当使用快速一阶随机算法求解子问题时，该框架在高概率下仍保持 $O(1/\sqrt{\varepsilon})$ 的收敛速率。
• 在具有大量分量或约束的大规模凸优化问题中，最优性间隙和约束违反度的整体迭代复杂度均为 $O(1/\sqrt{\varepsilon})$。
• 间隙减少机制有效控制了对偶间隙，即使在对偶函数非强凹时也能实现收敛。
• 该框架对随机子问题求解具有鲁棒性，并在对偶函数假设最少的条件下保持理论收敛保证。