[论文解读] On the O(1/k) Convergence of Asynchronous Distributed Alternating Direction Method of Multipliers

Ermin Wei, Asuman Ozdaglar|arXiv (Cornell University)|Jul 31, 2013

Distributed Control Multi-Agent Systems参考文献 39被引用 44

一句话总结

本文提出了一种用于具有可分目标函数和线性约束的凸优化的异步分布式ADMM算法，实现了无需全局同步的网络中各代理间的去中心化计算。该算法建立了目标函数值和约束违反度的O(1/k)收敛速率，显著优于次梯度方法的O(1/√k)速率。

ABSTRACT

We consider a network of agents that are cooperatively solving a global optimization problem, where the objective function is the sum of privately known local objective functions of the agents and the decision variables are coupled via linear constraints. Recent literature focused on special cases of this formulation and studied their distributed solution through either subgradient based methods with O(1/sqrt(k)) rate of convergence (where k is the iteration number) or Alternating Direction Method of Multipliers (ADMM) based methods, which require a synchronous implementation and a globally known order on the agents. In this paper, we present a novel asynchronous ADMM based distributed method for the general formulation and show that it converges at the rate O(1/k).

研究动机与目标

• 为解决同步、基于次梯度的方法在分布式多智能体优化中收敛速度慢（O(1/√k)）的局限性。
• 开发一种基于ADMM的完全异步分布式算法，避免依赖全局时钟或同步的智能体更新。
• 在一般凸优化框架下，为目标函数值和可行性违反度建立具有可证明O(1/k)收敛速率的收敛性保证。
• 将基于ADMM的方法扩展至具有可分目标函数和线性耦合约束的一般问题，适用于现实世界中的分布式学习和资源分配任务。

提出的方法

• 该算法采用异步ADMM框架，各智能体使用本地信息和延迟的邻居数据独立更新其变量。
• 引入一种改进的增广拉格朗日函数，并使用惩罚参数来处理耦合约束并确保收敛性。
• 该方法采用随机智能体选择和异步更新机制，每个智能体执行本地计算并与邻居通信，无需协调。
• 收敛性分析依赖于期望迭代值和李雅普诺夫函数，以在时间上界约束对偶间隙和约束违反度。
• 关键组件包括使用加权范数进行对偶变量更新，以及应用詹森不等式将期望目标值与真实最优值关联。
• 理论分析利用凸函数的性质和次梯度不等式，推导出O(1/k)的收敛速率。

实验结果

研究问题

• RQ1 基于ADMM的异步方法是否能在无需全局同步的情况下实现分布式多智能体优化中的O(1/k)收敛？
• RQ2 所提出的异步ADMM的收敛速率与现有具有O(1/√k)速率的次梯度方法相比如何？
• RQ3 在网络化系统中，面对异步和延迟信息时，可行性与目标值收敛的理论保证是什么？
• RQ4 当智能体以任意、可能不规则的时间间隔更新时，该算法的收敛表现如何？

主要发现

• 所提出的异步ADMM算法以几乎必然的方式收敛至分布式优化问题的最优解。
• 目标函数值以O(1/k)的速率收敛至最优值，显著快于次梯度方法的O(1/√k)速率。
• 可行性违反度（以残差‖D̄x(T) + Hz(T)‖的范数衡量）也以O(1/k)的速率收敛。
• 该收敛速率在一般凸性假设下成立，且无需强凸性或Lipschitz连续梯度条件。
• 理论分析考虑了异步更新和延迟信息，证明了对网络延迟和不规则智能体活动的鲁棒性。
• 收敛界依赖于初始迭代值、对偶变量和问题参数，但无论网络拓扑或更新时机如何，其收敛速率始终保持统一的O(1/k)。