[论文解读] A Dual Approach for Optimal Algorithms in Distributed Optimization over Networks

César A. Uribe, Soomin Lee+2 more|arXiv (Cornell University)|Sep 3, 2018

Distributed Control Multi-Agent Systems被引用 5

一句话总结

该论文提出了一种基于对偶的分布式优化框架，通过利用图的谱特性，实现了在网络上凸问题的最优收敛速率。该框架引入了算法，其收敛速率与集中式最优方法相当（仅存在对数或常数因子差异），并通过交互矩阵显式考虑了网络拓扑结构，同时针对对偶友好与非对偶友好的函数提供了理论保证，方法基于Nesterov光滑化技术。

ABSTRACT

We study dual-based algorithms for distributed convex optimization problems over networks, where the objective is to minimize a sum $\\sum_{i=1}^{m}f_i(z)$ of functions over in a network. We provide complexity bounds for four different cases, namely: each function $f_i$ is strongly convex and smooth, each function is either strongly convex or smooth, and when it is convex but neither strongly convex nor smooth. Our approach is based on the dual of an appropriately formulated primal problem, which includes a graph that models the communication restrictions. We propose distributed algorithms that achieve the same optimal rates as their centralized counterparts (up to constant and logarithmic factors), with an additional optimal cost related to the spectral properties of the network. Initially, we focus on functions for which we can explicitly minimize its Legendre-Fenchel conjugate, i.e., admissible or dual friendly functions. Then, we study distributed optimization algorithms for non-dual friendly functions, as well as a method to improve the dependency on the parameters of the functions involved. Numerical analysis of the proposed algorithms is also provided.

研究动机与目标

• 设计分布式优化算法，实现网络上凸问题的最优收敛速率。
• 通过交互矩阵显式将网络的谱特性（如图的拉普拉斯矩阵）纳入收敛速率界中。
• 利用Nesterov光滑化技术，将最优收敛速率扩展至非对偶友好函数。
• 为四种情形提供复杂度界：强凸且光滑、强凸或光滑、以及凸但非强凸也非光滑。
• 为在不同网络拓扑下分布式算法的性能极限建立理论基础。

提出的方法

• 将分布式问题建模为带有共识约束的对偶优化问题，使用图拉普拉斯矩阵表示约束。
• 利用Legendre–Fenchel共轭推导对偶问题，重点关注其共轭可显式最小化的函数（即对偶友好函数）。
• 引入Nesterov光滑化，使对偶或原始问题中引入强凸性，从而为非对偶友好函数实现最优收敛速率。
• 利用交互矩阵的谱特性分析收敛性，特别是归一化特征值间隙和条件数χ(W)。
• 提出分布式算法，其收敛速率与集中式最优方法相当（仅存在对数或常数因子差异）。
• 使用半定规划来验证最坏情况下的收敛速率，并对算法参数进行调优。

实验结果

研究问题

• RQ1 基于对偶的分布式算法能否在凸问题的网络优化中实现与集中式最优算法相当的收敛速率？
• RQ2 收敛速率如何依赖于网络拓扑，特别是交互矩阵的谱特性？
• RQ3 当函数为凸但既非强凸也非光滑时，分布式优化的最优复杂度是多少？
• RQ4 能否通过光滑化技术实现非对偶友好函数的最优收敛速率？
• RQ5 性能如何随网络规模和拓扑结构变化，特别是在时变或有向网络中？

主要发现

• 对于μ-强凸且L-光滑的函数，所提算法在O(√(L/μ)(1 + τ/√γ) log ε⁻¹)次迭代内达到ε-最优性，与先前工作的最优速率一致。
• 对于非对偶友好函数，通过Nesterov光滑化，方法在常数因子范围内实现最优收敛速率。
• 收敛速率依赖于网络的归一化特征值间隙γ和直径τ，且额外代价与√χ(W)成正比，其中χ(W)为交互矩阵的条件数。
• 数值结果表明，所提算法在收敛速度上优于EXTRA、DIGing和Acc-DNGD，尤其在条件数更优的Erdős-Rényi随机图上表现更优。
• 在随机图上，该方法保持与网络规模的最优缩放关系，而EXTRA和DIGing的性能随网络规模增大而恶化。
• 该方法需要全局掌握图的谱特性及函数的条件数，这可能在缺乏自适应机制的情况下限制其实际部署。