[论文解读] Optimal Algorithms for Decentralized Stochastic Variational Inequalities

Dmitry Kovalev, Aleksandr Beznosikov+4 more|arXiv (Cornell University)|Feb 6, 2022

Distributed Control Multi-Agent Systems被引用 11

一句话总结

本文提出了在固定网络和时变网络上求解去中心化随机变分不等式的首个最优算法，建立了通信复杂度和局部计算复杂度的紧致下界。论文提出了四种新算法，完美匹配这些下界，在去中心化随机、确定性和非去中心化设置下均实现了最先进的收敛速率。

ABSTRACT

Variational inequalities are a formalism that includes games, minimization, saddle point, and equilibrium problems as special cases. Methods for variational inequalities are therefore universal approaches for many applied tasks, including machine learning problems. This work concentrates on the decentralized setting, which is increasingly important but not well understood. In particular, we consider decentralized stochastic (sum-type) variational inequalities over fixed and time-varying networks. We present lower complexity bounds for both communication and local iterations and construct optimal algorithms that match these lower bounds. Our algorithms are the best among the available literature not only in the decentralized stochastic case, but also in the decentralized deterministic and non-distributed stochastic cases. Experimental results confirm the effectiveness of the presented algorithms.

研究动机与目标

• 通过建立通信和局部计算的紧致下界，弥合去中心化随机变分不等式最优复杂度理解上的空白。
• 在固定和时变网络拓扑结构下，设计匹配这些下界的新型最优算法。
• 通过统一并改进现有去中心化确定性和非去中心化随机设置下的结果，利用同一框架实现性能提升。
• 通过在合成数据和真实世界基准上的实验评估，验证理论优势。

提出的方法

• 利用信息论论证和对抗性问题构造，推导去中心化随机变分不等式中通信和局部迭代的复杂度下界。
• 基于梯度追踪与方差缩减技术的新型组合，提出四种新算法——其中两种适用于固定网络，两种适用于时变网络。
• 提出一种改进的额外梯度方法，结合局部平均和动量机制，以处理随机梯度和网络异质性。
• 引入网络特征参数 $\chi$ 以捕捉通信图的谱特性，实现对网络结构的紧致复杂度依赖。
• 采用有限和（求和型）随机设置，其中每个节点处理本地数据样本，梯度通过基于一致性通信的方式聚合。
• 采用双层循环结构，结合自适应步长和误差反馈，确保在强单调性和Lipschitz连续性假设下的收敛性。

实验结果

研究问题

• RQ1 在固定网络和时变网络上求解去中心化随机变分不等式的通信和局部计算复杂度的基本极限是什么？
• RQ2 能否在去中心化随机和确定性两种情形下，构造出匹配这些下界的最优算法？
• RQ3 网络拓扑结构（通过特征数 $\chi$ 表征）如何影响去中心化变分不等式算法的收敛速率？
• RQ4 所提出的算法是否不仅能在去中心化随机设置下实现最优性能，也能在非去中心化和确定性变体中实现最优性能？
• RQ5 在收敛速度和鲁棒性方面，新算法与现有最先进方法相比表现如何？

主要发现

• 本文首次建立了去中心化随机变分不等式在固定网络和时变网络中的通信和局部计算复杂度的下界。
• 对于固定网络，最优通信复杂度为 $\mathcal{O}\left(\max[\sqrt{n}; \sqrt{\chi}] \frac{L}{\mu} \log \frac{1}{\varepsilon}\right)$，与所提算法的上界完全匹配。
• 对于时变网络，通信复杂度的下界为 $\mathcal{O}\left(\chi \frac{L}{\mu} \log \frac{1}{\varepsilon}\right)$，该下界被所提算法完美匹配。
• 所提算法在随机有限和设置下实现了最优的局部迭代复杂度 $\mathcal{O}\left(\sqrt{n} \frac{L}{\mu} \log \frac{1}{\varepsilon}\right)$。
• 在固定网络和时变网络两种场景下，算法均优于现有方法，包括 Beznosikov 等人以及 Mukherjee 与 Chakraborty 的先前工作。
• 实验结果验证了理论优势，显示更快的收敛速度和优于基线去中心化与非去中心化方法的可扩展性。