[论文解读] Distributed Linearized Alternating Direction Method of Multipliers for Composite Convex Consensus Optimization

Necdet Serhat Aybat, Zi Wang+2 more|arXiv (Cornell University)|Dec 26, 2015

Stochastic Gradient Optimization Techniques被引用 6

一句话总结

本文提出 DPGA，一种基于线性化 ADMM 的分布式近端梯度方法，用于无向网络上的复合凸一致性优化。每个代理计算其局部近端映射和梯度，与邻居通信，并在确定性情形下实现子优性和一致性违反的 $\mathcal{O}(1/t)$ 收敛速率，即使在随机变体 SDPGA 中存在噪声梯度时也成立。

ABSTRACT

Given an undirected graph $\mathcal{G}=(\mathcal{N},\mathcal{E})$ of agents $\mathcal{N}=\{1,\ldots,N\}$ connected with edges in $\mathcal{E}$, we study how to compute an optimal decision on which there is consensus among agents and that minimizes the sum of agent-specific private convex composite functions $\{Φ_i\}_{i\in\mathcal{N}}$ while respecting privacy requirements, where $Φ_i riangleq ξ_i + f_i$ belongs to agent-$i$. Assuming only agents connected by an edge can communicate, we propose a distributed proximal gradient method DPGA for consensus optimization over both unweighted and weighted static (undirected) communication networks. In one iteration, each agent-$i$ computes the prox map of $ξ_i$ and gradient of $f_i$, and this is followed by local communication with neighboring agents. We also study its stochastic gradient variant, SDPGA, which can only access to noisy estimates of $ abla f_i$ at each agent-$i$. This computational model abstracts a number of applications in distributed sensing, machine learning and statistical inference. We show ergodic convergence in both sub-optimality error and consensus violation for DPGA and SDPGA with rates $\mathcal{O}(1/t)$ and $\mathcal{O}(1/\sqrt{t})$, respectively.

研究动机与目标

• 解决在代理必须就全局决策达成一致的同时最小化私有复合凸函数之和的网络中分布式优化的挑战。
• 克服集中式方法的局限性，后者需要完整数据共享，违反隐私并带来高昂的通信和内存成本。
• 设计一种完全分布式的算法，仅需代理间局部通信，且不依赖全局网络参数。
• 在最小假设下确保收敛并具有可证明的速率——具体而言，非光滑部分的近端映射可高效计算。
• 将方法扩展至处理随机梯度，使其适用于存在噪声或流式数据的场景。

提出的方法

• 提出 DPGA，一种基于线性化 ADMM 的分布式近端梯度算法，其中每个代理执行本地计算（$\xi_i$ 的近端映射和 $f_i$ 的梯度），随后与邻居通信。
• 采用线性化增广拉格朗日形式以解耦一致性约束，实现无需求解子问题的高效本地更新。
• 引入一个依赖于本地网络结构（如度数和边数）的惩罚参数 $\gamma$，避免依赖全局谱特性。
• 设计一种随机变体 SDPGA，使用噪声梯度估计，并在递减步长规则下保持收敛。
• 采用单重循环结构，无嵌套迭代，简化实现并降低通信开销。
• 确保算法完全分布：代理仅需知晓其邻居，无需全局网络拓扑信息。

实验结果

研究问题

• RQ1 能否设计一种分布式算法，在无需全局网络知识的情况下，实现复合凸一致性优化的快速收敛？
• RQ2 基于线性化 ADMM 的分布式近端梯度方法的收敛速率如何随迭代次数和网络拓扑变化？
• RQ3 当仅能获得噪声梯度估计时，该算法的随机变体性能如何？
• RQ4 网络连通性（如环形、小世界、完全图）如何影响分布式算法的收敛速度？
• RQ5 该算法能否在最小化通信轮次并通过对局部计算和通信保护隐私的同时，保持快速收敛？

主要发现

• 在确定性情形下，DPGA 对子优性和一致性违反均实现了 $\mathcal{O}(1/t)$ 的遍历收敛速率。
• 在噪声梯度估计下，SDPGA 对子优性和一致性违反均实现了 $\mathcal{O}(1/\sqrt{t})$ 的遍历收敛速率。
• 该算法每轮迭代仅需一次通信轮次，比 ADMM（2 轮）和 SADMM（4 轮）更具通信效率。
• 实验结果表明，提高网络连通性（如从环形到小世界或完全图）可显著提升收敛速度，尤其是在一致性违反方面。
• 尽管理论收敛速率为 $\mathcal{O}(1/\sqrt{t})$，SDPGA 的实际表现优于预期，表明该界在实践中可能不够紧致。
• 该方法在 $\mathcal{O}(\epsilon^{-1})$ 次迭代内计算出 $\epsilon$-最优且 $\epsilon$-可行的解，每节点总通信量为 $\mathcal{O}(\epsilon^{-1})$，使其在大规模网络中具备可扩展性和实用性。