[论文解读] Linear Convergence Rate of Class of Distributed Augmented Lagrangian Algorithms

Dušan Jakovetić, José M. F. Moura+1 more|arXiv (Cornell University)|Jul 9, 2013

Distributed Control Multi-Agent Systems参考文献 34被引用 3

一句话总结

本文为一类分布式增广拉格朗日算法在多智能体优化中的全局线性（几何）收敛速率提供了理论保证，其中各节点在通信网络上最小化局部凸代价之和。该研究明确揭示了收敛速率与网络谱隙、Hessian 矩阵边界及子问题求解不精确度之间的依赖关系，当具备额外系统知识时，其收敛速度显著快于标准分布式梯度方法。

ABSTRACT

We study distributed optimization where nodes cooperatively minimize the sum of their individual, locally known, convex costs f_i(x)'s, x∈R^d is global. Distributed augmented Lagrangian (AL) methods have good empirical performance on several signal processing and learning applications, but there is limited understanding of their convergence rates and how it depends on the underlying network. This paper establishes globally linear (geometric) convergence rates of a class of deterministic and randomized distributed AL methods, when the f_i's are twice continuously differentiable and have a bounded Hessian. We give explicit dependence of the convergence rates on the underlying network parameters. Simulations illustrate our analytical findings.

研究动机与目标

• 分析分布式增广拉格朗日（AL）方法在多智能体优化设置下的收敛速率。
• 为一类广义的确定性和随机分布式 AL 算法建立全局线性收敛性。
• 显式刻画收敛速率与网络参数（谱隙）、Hessian 边界（hmin, hmax）以及子问题求解不精确度之间的关系。
• 比较不同原始变量更新策略（雅可比、梯度、高斯-赛德尔）在通信与计算效率方面的性能。

提出的方法

• 提出一个通用分析框架，用于研究子问题（2）以不精确方式求解的分布式 AL 方法，采用固定点迭代框架。
• 引入基于不精确度参数 ξ 的收敛条件，该参数界定了每次子问题求解中相对误差的减少量。
• 推导出以网络谱隙 λ2(L)、Hessian 边界 hmin 与 hmax 以及不精确度参数 ξ 表示的显式线性收敛速率。
• 将该框架应用于四种具体算法：确定性与随机雅可比方法，以及确定性与随机梯度方法。
• 采用原始-对偶更新结构：对偶变量 µi 通过带步长 α 的梯度上升法更新，而原始变量 xi 通过求解正则化子问题获得。
• 采用 Nesterov 类型的快速梯度法求解子问题（2），保证收敛至指定精度，从而确保满足 ξ 条件。

实验结果

研究问题

• RQ1 在子问题以不精确方式求解时，何种条件可确保分布式 AL 方法的全局线性收敛？
• RQ2 分布式 AL 方法的收敛速率如何依赖于网络结构，特别是谱隙 λ2(L)？
• RQ3 子问题求解的不精确度（ξ）、Hessian 边界（hmin, hmax）与收敛速率之间的显式权衡关系是什么？
• RQ4 不同原始变量更新策略（雅可比、梯度、高斯-赛德尔）在收敛速度与资源消耗方面如何比较？
• RQ5 随机化原始变量更新能否实现线性收敛？其与确定性变体相比表现如何？

主要发现

• 本文为四种分布式 AL 方法建立了全局线性收敛性：确定性与随机雅可比方法，以及确定性与随机梯度变体。
• 收敛速率被显式刻画为网络谱隙 λ2(L)、Hessian 边界 hmin 与 hmax 以及不精确度参数 ξ 的函数。
• 对于确定性梯度变体，达到 ϵ-精度所需资源为 O(γ log(1/ϵ)/λ2) 每节点通信与梯度计算次数，其中 γ = hmax/hmin 为条件数。
• 该速率显著快于标准分布式梯度方法，后者需 O(γ log(1/ϵ)/ϵ λ2) 资源，表明在具备额外系统知识（hmin, λ2）时可实现 1/ϵ 的加速。
• 仿真结果验证了通信成本与计算时间上的线性收敛性，理论 τ 值的收敛速度优于 τ = 1，尽管单次迭代成本更高。
• 随机梯度变体在理论 τ 值下收敛极慢，凸显了理论保证与实际效率之间的权衡。