[论文解读] Near-Optimal Decentralized Algorithms for Saddle Point Problems over Time-Varying Networks

Aleksandr Beznosikov, Alexander Rogozin+2 more|arXiv (Cornell University)|Jul 13, 2021

Distributed Control Multi-Agent Systems参考文献 44被引用 6

一句话总结

该论文提出了针对时变网络上鞍点问题的近似最优去中心化算法，结合了额外步长法（Extra Step Method）与Gossip通信协议。它建立了紧致的复杂度下界，并提出了一种算法，其收敛速率在对数因子范围内达到这些下界，在强凸-强凹与凸-凹设定下均匹配理论极限。

ABSTRACT

Decentralized optimization methods have been in the focus of optimization community due to their scalability, increasing popularity of parallel algorithms and many applications. In this work, we study saddle point problems of sum type, where the summands are held by separate computational entities connected by a network. The network topology may change from time to time, which models real-world network malfunctions. We obtain lower complexity bounds for algorithms in this setup and develop near-optimal methods which meet the lower bounds.

研究动机与目标

• 解决去中心化鞍点问题在时变网络设置下缺乏理论复杂度边界的空白。
• 在时变连通性条件下，建立光滑的强凸-强凹与凸-凹鞍点问题的下界。
• 设计一种近似最优的算法，其性能在对数因子范围内匹配这些下界。
• 将现有的去中心化优化理论从最小化问题扩展至具有时变拓扑的极小-极大问题。
• 在标准假设（光滑性、强凸性-凹性、紧致性）下，为算法提供收敛保证。

提出的方法

• 将鞍点问题表述为分布在 M 个代理上的局部函数之和。
• 以额外步长法（镜像近似法，Mirror Prox）作为求解极小-极大问题的核心优化框架。
• 在每次额外步长后集成 Gossip 通信协议，以在网络中平均本地迭代值。
• 通过调节 Gossip 迭代次数 H 控制梯度评估中的近似误差，H 与 log(1/ε) 成比例，以达到目标精度 ε。
• 通过平均迭代值 ¯zk = (1/M)∑ₘ zkₘ 分析收敛性，将由于通信延迟导致的梯度评估不精确性纳入考量。
• 利用 Gossip 算法已知的收敛特性，界定各代理间达成一致的误差。

实验结果

研究问题

• RQ1 去中心化鞍点问题在时变网络上的基本复杂度下界是什么？
• RQ2 能否设计一种去中心化算法，使其复杂度在对数因子范围内达到这些下界？
• RQ3 网络连通性（以 χ 衡量）在时变设置下如何影响收敛速率？
• RQ4 与最小化问题不同，极小-极大问题中对条件数 L/µ 的依赖是否不可改进？
• RQ5 通信轮数中的对数因子在实践中能否被消除，还是其存在具有理论必然性？

主要发现

• 论文在时变网络上建立了强凸-强凹情形下的下界为 Ω(R₀² exp(−μK/(256Lχ)))，以及凸-凹情形下的下界为 Ω(LD²χ/K)。
• 所提出的时变去中心化额外步长法（TVDESM）在强凸-强凹情形下达到 ˜O(R₀² exp(−μK/(8Lχ))) 的收敛速率，在凸-凹情形下达到 ˜O(LD²χ/K)，在对数因子范围内匹配下界。
• 在 μ-强凸-强凹情形下，达到 ε-精度所需的通信轮数为 ˜O(χL/μ)，本地计算复杂度为 O((L/μ) log(∥z₀−z∗∥²/ε))。
• 在凸-凹情形下，通信复杂度为 ˜O(χLD²/ε)，本地计算复杂度为 O(LD²/ε)，两者均在对数因子范围内匹配下界。
• 在时变网络中，对网络条件数 χ 的依赖无法改进为 √χ，证实其在去中心化收敛中的根本作用。
• 通信轮数中的对数因子源于 Gossip 协议的线性收敛特性，且在当前设计下不可避免，提示该因子在理论上可能无法被完全消除。