[论文解读] Accelerated Decentralized Optimization with Local Updates for Smooth and Strongly Convex Objectives

Hadrien Hendrikx, Francis Bach+1 more|arXiv (Cornell University)|Oct 5, 2018

Distributed Control Multi-Agent Systems参考文献 7被引用 17

一句话总结

该论文提出 ESDACD，一种用于平滑且强凸函数的去中心化加速优化算法，采用局部同步与基于边的更新机制。该算法在仅需局部同步的情况下，实现了与最优同步 SSDA 算法相当的收敛速率，同时支持异步执行，并在信息交换设置下，对误差的二阶矩实现了可证明的改进，尤其在异构网络中表现更优。

ABSTRACT

In this paper, we study the problem of minimizing a sum of smooth and strongly convex functions split over the nodes of a network in a decentralized fashion. We propose the algorithm $ESDACD$, a decentralized accelerated algorithm that only requires local synchrony. Its rate depends on the condition number $κ$ of the local functions as well as the network topology and delays. Under mild assumptions on the topology of the graph, $ESDACD$ takes a time $O((τ_{\max} + Δ_{\max})\sqrt{κ/γ}\ln(ε^{-1}))$ to reach a precision $ε$ where $γ$ is the spectral gap of the graph, $τ_{\max}$ the maximum communication delay and $Δ_{\max}$ the maximum computation time. Therefore, it matches the rate of $SSDA$, which is optimal when $τ_{\max} = Ω\left(Δ_{\max} ight)$. Applying $ESDACD$ to quadratic local functions leads to an accelerated randomized gossip algorithm of rate $O( \sqrt{θ_{ m gossip}/n})$ where $θ_{ m gossip}$ is the rate of the standard randomized gossip. To the best of our knowledge, it is the first asynchronous gossip algorithm with a provably improved rate of convergence of the second moment of the error. We illustrate these results with experiments in idealized settings.

研究动机与目标

• 设计一种去中心化优化算法，实现与同步方法相当的加速收敛速率，同时仅需局部同步。
• 解决集中式架构在大规模分布式学习中面临的通信瓶颈与单点故障问题。
• 在节点能力异构且局部条件数不同时，提升去中心化设置下的收敛速度。
• 开发一种异步信息交换算法，其收敛速率在误差的二阶矩方面可证明优于标准随机信息交换算法，尤其在该指标上。
• 证明局部参数调优与基于边的更新可在不牺牲收敛保证的前提下，提升异构网络中的性能。

提出的方法

• ESDACD 基于加速对偶坐标下降，通过边采样实现邻居节点的异步更新。
• 该算法通过边上的随机信息交换机制执行局部梯度更新与全局收缩步骤。
• 引入基于边的步长与权重，使其能适应局部平滑性与通信延迟。
• 该方法在对偶形式中利用 Nesterov 风格的加速，以实现更快收敛。
• 更新按每节点采样顺序执行，确保局部同步，无需全局协调。
• 该算法被应用于一般平滑且强凸优化问题以及分布式平均一致性问题。

实验结果

研究问题

• RQ1 能否设计一种去中心化优化算法，在仅需局部同步的情况下，实现与最优同步方法（如 SSDA）相当的收敛速率？
• RQ2 一种结合局部更新与边特定参数的异步信息交换算法，是否在误差的二阶矩方面优于标准随机信息交换算法？
• RQ3 在局部条件数与计算延迟各异的异构网络中，ESDACD 的表现如何？
• RQ4 ESDACD 中的局部参数调优能否在非均匀设置下自适应地提升收敛速度？
• RQ5 通信延迟与计算时间对去中心化加速算法收敛速率有何影响？

主要发现

• ESDACD 实现了 $ O((\tau_{\max}+\Delta_{\max})\sqrt{\kappa/\gamma}\ln(\epsilon^{-1})) $ 的收敛速率，在温和图假设下与 SSDA 的最优速率相当。
• 在同质设置下，ESDACD 每轮迭代速度约为 SSDA 的两倍慢，但在网格图上梯度使用量减少 2 倍，消息通信量减少 8 倍。
• 在局部条件数可变的异质设置下，尽管梯度使用量仅为 SSDA 的一半，ESDACD 仍实现了显著更低的最终误差。
• 对于分布式平均一致性问题，ESDACD 首次实现了异步信息交换算法中误差二阶矩收敛速率的可证明改进。
• 该算法能良好适应平滑性与计算速度的局部变化，在节点能力差异较大的场景下优于 SSDA。
• 实验结果表明，ESDACD 在 SSDA 完成一轮的时间内可完成两轮迭代，表明其在异构环境中的计算效率更优。