[论文解读] Accelerated Primal-Dual Algorithms for Distributed Smooth Convex Optimization over Networks

Jinming Xu, Ye Tian+2 more|arXiv (Cornell University)|Oct 23, 2019

Distributed Control Multi-Agent Systems参考文献 35被引用 10

一句话总结

该论文提出OPTRA，一种基于原始-对偶的新型分布式算法族，用于在仅使用梯度信息和闲聊通信的条件下进行平滑凸优化。通过同时在计算和通信步骤中引入加速机制，OPTRA在Bregman距离方面实现了与现有下界匹配的最优收敛速率，且无需了解Fenchel共轭，从而相比先前的最优方法，扩大了其在更广泛函数类上的适用性。

ABSTRACT

This paper proposes a novel family of primal-dual-based distributed algorithms for smooth, convex, multi-agent optimization over networks that uses only gradient information and gossip communications. The algorithms can also employ acceleration on the computation and communications. We provide a unified analysis of their convergence rate, measured in terms of the Bregman distance associated to the saddle point reformation of the distributed optimization problem. When acceleration is employed, the rate is shown to be optimal, in the sense that it matches (under the proposed metric) existing complexity lower bounds of distributed algorithms applicable to such a class of problem and using only gradient information and gossip communications. Preliminary numerical results on distributed least-square regression problems show that the proposed algorithm compares favorably on existing distributed schemes.

研究动机与目标

• 开发一种用于多智能体网络的分布式优化算法，仅使用梯度信息和闲聊通信即可实现最优收敛速率。
• 消除对智能体函数Fenchel共轭计算的需求，从而突破先前最优方法在适用性上的限制。
• 通过问题的对偶点重构所关联的Bregman距离度量，统一收敛速率的分析方法。
• 在相同度量下，实现梯度计算和通信步骤的最优复杂度边界。
• 通过在分布式回归问题上的数值实验，展示其优越的实际性能。

提出的方法

• 该算法基于通过对偶点优化重构的原始-对偶框架，支持在无向、固定网络上的分布式计算。
• 采用一种新颖的加速机制，平衡本地计算与通信步骤，以最小化总成本。
• 收敛性分析基于与对偶点重构相关的Bregman距离，提供统一的性能评估度量。
• 同时对本地梯度更新和通过闲聊协议在邻居间的信息交换应用加速。
• 避免依赖目标函数的Fenchel共轭，从而增强其在一般平滑凸函数上的适用性。
• 在实验中对每种算法手动调整参数以确保公平比较，关键参数如步长和迭代次数均经过优化以获得最佳性能。

实验结果

研究问题

• RQ1 能否设计一种基于原始-对偶的分布式算法，在仅使用梯度和闲聊信息的条件下，实现平滑凸优化的最优收敛速率？
• RQ2 是否可能设计一种加速方案，同时优化分布式网络中的计算与通信步骤？
• RQ3 若消除对Fenchel共轭计算的需求，是否能扩大最优速率算法可适用的问题类别？
• RQ4 在总成本、通信和计算方面，该算法与现有加速分布式方法相比表现如何？
• RQ5 在通信与计算成本比变化时，该算法是否仍能保持最优复杂度边界？

主要发现

• 所提出的OPTRA算法在Bregman距离度量下实现了 $ O\bigl(\frac{1}{\tau}\bigr) $ 的最优收敛速率，与仅使用梯度和闲聊信息的第一类分布式算法的现有下界完全一致。
• OPTRA是首个已知的第一类基于闲聊通信的算法，能够同时匹配平滑凸函数在计算与通信复杂度上的下界。
• 与Scaman等人（2017）和Uribe等人（2018）不同，OPTRA无需了解Fenchel共轭，显著扩大了其在一般平滑凸函数上的适用范围。
• 数值结果表明，当通信成本不可忽略时，OPTRA优于现有方案——包括Acc-DNGD-NSC、APM-C、NEXT、EXTRA和DPSGD。
• 在计算成本为通信成本五倍的场景下，OPTRA在线性回归和逻辑回归问题中均保持优越性能，展现出对成本失衡的鲁棒性。
• 该算法在不引入对数因子惩罚的情况下实现最优复杂度，而依赖强凸正则化的其他方法在精度提高时因条件数恶化而性能下降。