[论文解读] Decentralized Distributed Optimization for Saddle Point Problems

Alexander Rogozin, Aleksandr Beznosikov+4 more|arXiv (Cornell University)|Feb 15, 2021

Optimization and Variational Analysis参考文献 41被引用 10

一句话总结

该论文提出了一种用于具有局部和全局变量的光滑凸-凹鞍点问题的去中心化 Mirror-Prox 算法，实现了最优的 $O(\varepsilon^{-1})$ 通信和 oracle 复杂度。该方法支持非欧几里得邻近设置（例如，熵正则化），并与下界匹配，证明了在精度 $\varepsilon$ 和网络条件数 $\chi$ 方面的最优性，其应用包括 Wasserstein barycenter 计算。

ABSTRACT

We consider distributed convex-concave saddle point problems over arbitrary connected undirected networks and propose a decentralized distributed algorithm for their solution. The local functions distributed across the nodes are assumed to have global and local groups of variables. For the proposed algorithm we prove non-asymptotic convergence rate estimates with explicit dependence on the network characteristics. To supplement the convergence rate analysis, we propose lower bounds for strongly-convex-strongly-concave and convex-concave saddle-point problems over arbitrary connected undirected networks. We illustrate the considered problem setting by a particular application to distributed calculation of non-regularized Wasserstein barycenters.

研究动机与目标

• 解决在具有局部和全局变量的非强凸-凹鞍点问题中缺乏最优去中心化算法的问题。
• 开发一种在去中心化环境中实现最优通信和 oracle 复杂度的方法。
• 支持非欧几里得邻近设置（例如，熵正则化），以提高灵活性和适用性。
• 通过匹配通信和 oracle 调用的下界，证明其最优性。
• 将该算法应用于 Wasserstein barycenter 问题，以克服基于正则化方法的不稳定性。

提出的方法

• 使用拉格朗日乘子公式化鞍点问题，以在去中心化网络中强制节点间的一致性。
• 提出一种具有通用邻近设置的去中心化 Mirror-Prox 算法变体，包括非欧几里得选项（如熵正则化）。
• 应用切比雪夫加速技术，解耦通信复杂度与 oracle 复杂度，改善对条件数 $\chi$ 的依赖。
• 采用滑动型过程管理 oracle 调用与通信轮次之间的权衡。
• 通过对偶变量集成一致性约束，并在对偶空间中通过梯度步长更新它们。
• 通过递归不等式和自适应步长边界对偶间隙和一致性误差，确保收敛性。

实验结果

研究问题

• RQ1 去中心化算法能否在凸-凹鞍点问题中实现最优的 $O(\varepsilon^{-1})$ 通信和 oracle 复杂度？
• RQ2 在具有通用邻近设置的去中心化环境中，Mirror-Prox 算法是否仍保持最优性？
• RQ3 非欧几里得邻近设置（例如，熵正则化）能否在去中心化鞍点优化中有效使用？
• RQ4 与基于正则化的方法相比，该方法在 Wasserstein barycenter 问题上的表现如何？
• RQ5 该算法的复杂度对网络条件数 $\chi$ 的依赖关系如何？

主要发现

• 所提出的算法实现了 $O(\varepsilon^{-1})$ 的通信和 oracle 复杂度，与去中心化凸-凹鞍点问题的既定下界完全匹配。
• 该算法在所需精度 $\varepsilon$ 和通信网络条件数 $\chi$ 的依赖关系上达到最优。
• 该方法支持非欧几里得邻近设置，如熵正则化，这些设置在 Wasserstein barycenter 问题的双线性鞍点重构中自然出现。
• 数值实验表明，与基于正则化的方法相比，分布式 Mirror-Prox 算法能更优地逼近真实的 Wasserstein barycenter，尤其在小正则化参数下表现更佳。
• 收敛性分析建立了对偶间隙和一致性误差的 $O(1/N)$ 收敛速率，并给出了达到 $\varepsilon$-精度所需迭代次数 $N$ 的显式边界。
• 该算法的 oracle 调用复杂度有界于 $\mathcal{O}\left(\left(1 + \frac{L_B}{\mu_g}\right)\log\frac{1}{\delta}\log\frac{\|\zeta^0 - \zeta^*\|_2^2}{\varepsilon}\right)$，其中 $L_B$ 和 $\mu_g$ 分别表示光滑性和强凸性参数。