[论文解读] Fully Distributed Alternating Direction Method of Multipliers in Digraphs via Finite-Time Termination Mechanisms

Wei Jiang, Themistoklis Charalambous|arXiv (Cornell University)|Jul 5, 2021

Sparse and Compressive Sensing Techniques参考文献 24被引用 4

一句话总结

该论文提出FD-ADMM-FTDT，一种用于有向图（digraphs）上凸优化的完全分布式交替方向乘子法（ADMM），采用有限时间精确比值一致协议，实现无需全局网络规模知识的全局变量分布式计算。该算法在一般凸函数下实现O(1/k)的精确收敛速率，在强凸性和光滑性条件下实现近似R线性收敛，相较于先前方法在大规模网络中展现出更优的速度与精度。

ABSTRACT

In this work, we consider the distributed optimization problem in which each node has its own convex cost function and can communicate directly only with its neighbors, as determined by a directed communication topology (directed graph or digraph). First, we reformulate the optimization problem so that Alternating Direction Method of Multipliers (ADMM) can be utilized. Then, we propose an algorithm, herein called Distributed Alternating Direction Method of Multipliers using Finite-Time Exact Ratio Consensus (D-ADMM-FTERC), to solve the multi-node convex optimization problem, in which every node performs iterative computations and exchanges information with its neighbors. At every iteration of D-ADMM-FTERC, each node solves a local convex optimization problem for the one of the primal variables and utilizes a finite-time exact consensus protocol to obtain the optimal value of the other variable, since the cost function for the second primal variable is not decomposable. Since D-ADMM-FTERC requires to know the upper bound on the number of nodes in the network, we furthermore propose a new algorithm, called Fully D-ADMM Finite-Time Distributed Termination (FD-ADMM-FTDT) algorithm, which does not need any global information. If the individual cost functions are convex and not-necessarily differentiable, the proposed algorithms converge at a rate of O(1/k), where k is the iteration counter. Additionally, if the global objective function is strongly convex and smooth, the proposed algorithms have an "approximate" R-linear convergence rate. The efficacy of FD-ADMM-FTDT is demonstrated via a distributed L1 regularized logistic regression optimization example. Additionally, comparisons with other state-of-the-art algorithms are provided on large-scale networks showing the superior precision and time-efficient performance of FD-ADMM-FTDT.

研究动机与目标

• 为解决在缺乏双向链路的有向通信拓扑（有向图）中分布式优化的挑战，现有ADMM方法因缺乏双向连接而失效。
• 消除先前分布式ADMM算法为实现收敛而普遍依赖的全局信息（如网络规模）的依赖。
• 开发一种完全分布式、有限时间的一致性机制，使ADMM迭代中无需中心协调器即可精确计算全局变量。
• 在有向图上实现比现有最先进分布式ADMM方法更快的收敛速度与更高的精度。
• 通过大规模分布式l1-正则化逻辑回归实验，验证该方法的有效性。

提出的方法

• 提出D-ADMM-FTERC，一种使用有限时间精确比值一致（FTERC）协议的分布式ADMM变体，用于在有向图上计算本地变量的平均值，实现全局变量的精确估计。
• 提出FD-ADMM-FTDT，一种完全分布式算法，通过将分布式终止机制与FTERC协议结合，消除对任何全局知识（如网络规模）的依赖。
• 采用两步ADMM更新：首先通过L-BFGS-B优化本地原始变量，随后通过有限时间一致协议计算对偶变量和原始更新的平均值。
• 在z更新步骤中使用阈值化（软阈值化）算子，确保在l1正则化下保持稀疏性并实现收敛。
• 通过将集中式平均替换为有限时间分布式一致协议，实现完全分布式的z更新，无需中心收集器。
• 引入一种分布式终止机制，使节点仅在全部节点均计算出精确平均值后才同步迭代步骤，从而确保协调且高效的收敛。

实验结果

研究问题

• RQ1 是否能够设计一种分布式ADMM算法，在有向图中实现精确收敛，且不依赖于网络规模等全局信息？
• RQ2 如何将有限时间精确一致协议集成到ADMM中，以替代分布式优化中的渐近或集中式平均？
• RQ3 当全局目标函数为强凸且光滑时，完全分布式ADMM在有向图中可达到何种收敛速率？
• RQ4 在大规模网络中，所提方法与现有分布式ADMM算法相比，在收敛速度和解精度方面表现如何？
• RQ5 所提出的有限时间一致与终止机制是否可有效应用于真实世界分布式机器学习问题，如l1-正则化逻辑回归？

主要发现

• FD-ADMM-FTDT在有向图上对凸代价函数实现了精确收敛，且无需任何关于网络规模的全局知识，优于先前方法。
• 对于一般凸函数（即使不可微），该算法收敛速率为O(1/k)，与现有分布式ADMM的最佳已知速率一致。
• 在强凸性和光滑性条件下，算法表现出近似R线性收敛速率，表明对条件良好的问题具有快速收敛性能。
• 在大规模l1-正则化逻辑回归实验中，FD-ADMM-FTDT达到了与集中式方法相同的最优目标值，证明了精确解的恢复能力。
• FD-ADMM-FTDT仅用3.69秒即完成收敛，显著优于次优方法D-DistADMM的238.56秒，尽管后者因更多一致步骤而效率更低。
• 与先前工作相比，该算法在每轮优化步骤中减少了比值一致迭代次数，加速了收敛，同时保持了高精度。