[论文解读] A Coordinate Descent Primal-Dual Algorithm and Application to Distributed Asynchronous Optimization

Pascal Bianchi, Walid Hachem+1 more|arXiv (Cornell University)|Jul 3, 2014

Distributed Control Multi-Agent Systems参考文献 49被引用 144

一句话总结

本文提出了一种名为 DAPD 的随机坐标下降原始-对偶算法，用于分布式异步优化。通过将随机坐标更新应用于基于 Vu-Condat 算法的原始-对偶框架，该方法使各代理能够独立更新本地估计值，并异步交换数据，在弱于先前方法的条件下实现收敛，数值结果证实其在大规模场景下的高效性。

ABSTRACT

Based on the idea of randomized coordinate descent of $\\alpha$-averaged operators, a randomized primal-dual optimization algorithm is introduced, where a random subset of coordinates is updated at each iteration. The algorithm builds upon a variant of a recent (deterministic) algorithm proposed by V\\~u and Condat that includes the well known ADMM as a particular case. The obtained algorithm is used to solve asynchronously a distributed optimization problem. A network of agents, each having a separate cost function containing a differentiable term, seek to find a consensus on the minimum of the aggregate objective. The method yields an algorithm where at each iteration, a random subset of agents wake up, update their local estimates, exchange some data with their neighbors, and go idle. Numerical results demonstrate the attractive performance of the method. The general approach can be naturally adapted to other situations where coordinate descent convex optimization algorithms are used with a random choice of the coordinates.

研究动机与目标

• 开发一种可证明收敛的分布式优化算法，使各代理能够异步运行。
• 将 Vu-Condat 原始-对偶算法扩展至随机坐标下降框架，支持部分且独立的更新。
• 与现有 ADMM 变体相比，降低对步长的收敛要求。
• 通过支持异步性和部分代理激活，实现大规模机器学习中的实际部署。

提出的方法

• 该算法源自对 α-平均算子应用的 Krasnosel’skii-Mann 迭代的随机坐标下降变体。
• 它将分布式优化问题重新表述为带有共识约束的原始-对偶鞍点问题，该约束通过线性算子 M 编码。
• 在每次迭代中，随机选择一组代理更新其局部变量，使用邻近算子，并与邻居交换对偶变量。
• 该方法采用带松弛的对偶上升步骤，并应用一种随机更新规则，确保在更弱假设下仍保持收敛。
• 该算法与 DADMM+ 框架在形式上相关，但通过坐标选择进行了调整，以支持异步和部分更新。
• 通过 α-平均算子的不动点分析，以及迭代序列的几乎必然收敛，建立了收敛性。

实验结果

研究问题

• RQ1 能否将随机坐标下降方法应用于基于 α-平均算子的原始-对偶算法，以确保收敛？
• RQ2 所提出的异步、分布式算法在代理独立且随机顺序更新时是否仍保持收敛？
• RQ3 与确定性 ADMM 变体相比，能否将收敛性保证扩展到更弱的步长假设？
• RQ4 在收敛速度和可扩展性方面，该算法与同步对应方法相比表现如何？

主要发现

• 与原始的 Vu-Condat 算法相比，DAPD 算法在更弱的步长假设下实现了对原始-对偶解的几乎必然收敛。
• 随机坐标下降框架确保即使每次迭代仅部分代理更新，也能实现收敛，从而支持完全异步性。
• 当可微项的梯度为利普希茨连续时，该方法具有可证明的收敛性，收敛速率取决于网络的最小度。
• 数值结果表明，该算法在分布式环境下的收敛速度和可扩展性方面表现更优。
• 即使代理使用延迟或过时的信息运行，该算法仍能保持收敛，因此适用于现实世界中的分布式系统。