[论文解读] Accelerated Distributed Aggregative Optimization

Jiaxu Liu, Song Chen+2 more|arXiv (Cornell University)|Apr 17, 2023

Distributed Control Multi-Agent Systems被引用 6

一句话总结

该论文提出了两种新型加速分布式聚合优化算法——DAGT-HB 和 DAGT-NES，将动量法（Heavy Ball）与Nesterov加速方法融入分布式梯度追踪，实现了R-线性收敛。该方法在代理的代价函数依赖于局部状态与全局聚合变量的网络中，通过合理选择参数，证明了在光滑且强凸目标函数下的全局R-线性收敛性。

ABSTRACT

In this paper, we investigate a distributed aggregative optimization problem in a network, where each agent has its own local cost function which depends not only on the local state variable but also on an aggregated function of state variables from all agents. To accelerate the optimization process, we combine heavy ball and Nesterov's accelerated methods with distributed aggregative gradient tracking, and propose two novel algorithms named DAGT-HB and DAGT-NES for solving the distributed aggregative optimization problem. We analyse that the DAGT-HB and DAGT-NES algorithms can converge to an optimal solution at a global $\mathbf{R}-$linear convergence rate when the objective function is smooth and strongly convex, and when the parameters (e.g., step size and momentum coefficients) are selected within certain ranges. A numerical experiment on the optimal placement problem is given to verify the effectiveness and superiority of our proposed algorithms.

研究动机与目标

• 解决分布式聚合优化中因代理代价依赖于全局聚合变量而导致的收敛缓慢问题。
• 克服标准分布式梯度方法收敛缓慢或收敛至次优解的局限性。
• 将动量加速技术（Heavy Ball与Nesterov）融入分布式梯度追踪，以实现更快的收敛速度。
• 在适当参数条件下，建立光滑且强凸问题下的全局R-线性收敛性。
• 通过最优位置部署问题的数值实验，验证所提方法的性能优越性。

提出的方法

• 通过将Heavy Ball与Nesterov加速方法与分布式聚合梯度追踪（DAGT）相结合，提出DAGT-HB与DAGT-NES算法。
• 利用局部梯度估计与全局平均梯度追踪，替代每个代理更新中的局部梯度。
• 通过外推状态引入动量项，使收敛速度超越标准梯度下降方法。
• 采用基于一致性（consensus-based）的网络结构，代理仅与邻居通信，以保持可扩展性。
• 利用李雅普诺夫函数进行收敛性分析，并应用Jury判据以确保稳定性与R-线性收敛。
• 建立保证全局R-线性收敛的参数条件（步长与动量系数）。

实验结果

研究问题

• RQ1 能否有效结合动量加速技术（Heavy Ball与Nesterov）与分布式聚合梯度追踪，以提升分布式优化中的收敛速度？
• RQ2 在分布式聚合优化中，步长与动量系数的何种参数范围可确保全局R-线性收敛？
• RQ3 所提方法在收敛速度与解精度方面相比标准分布式梯度方法有何优势？
• RQ4 所提算法在代理代价依赖于全局聚合变量时是否仍能保持收敛性？
• RQ5 在光滑且强凸目标函数下，所提算法的理论收敛速率是多少？

主要发现

• DAGT-HB与DAGT-NES算法在光滑且强凸的分布式聚合优化问题中实现了全局R-线性收敛。
• 当步长与动量系数选择在特定有界范围内时，收敛性可得到保证。
• 收敛速度优于标准分布式梯度方法，后者通常呈现亚线性收敛或收敛至最优解邻域。
• 在最优位置部署问题上的数值实验验证了所提算法在收敛速度与解质量方面的优越性。
• 理论分析通过李雅普诺夫函数与Jury判据建立了稳定性与收敛性，验证了该方法的鲁棒性。