[论文解读] Distributed Aggregative Optimization over Multi-Agent Networks

Xiuxian Li, Lihua Xie+1 more|arXiv (Cornell University)|May 27, 2020

Distributed Control Multi-Agent Systems参考文献 33被引用 6

一句话总结

本文提出分布式聚合优化，其中局部目标函数不仅依赖于个体变量，还依赖于所有代理变量的平均值。该文提出分布式梯度追踪（DGT）算法，在强凸性和平衡、强连通通信图的条件下实现线性收敛，从而在多智能体系统中实现快速、去中心化的优化。

ABSTRACT

This paper proposes a new framework for distributed optimization, called distributed aggregative optimization, which allows local objective functions to be dependent not only on their own decision variables, but also on the average of summable functions of decision variables of all other agents. To handle this problem, a distributed algorithm, called distributed gradient tracking (DGT), is proposed and analyzed, where the global objective function is strongly convex, and the communication graph is balanced and strongly connected. It is shown that the algorithm can converge to the optimal variable at a linear rate. A numerical example is provided to corroborate the theoretical result.

研究动机与目标

• 解决局部目标函数不仅依赖于个体变量，还依赖于所有代理变量平均值的分布式优化问题。
• 开发一种分布式算法，使代理能够在无集中协调的情况下协同最小化全局目标函数。
• 在较弱假设下（包括强凸性和平衡通信图）建立所提算法的线性收敛保证。
• 为多智能体系统中的聚合优化提供理论框架和数值验证。

提出的方法

• 提出一种新的问题形式化方法，称为分布式聚合优化，其中每个代理的目标函数依赖于其自身变量和所有代理变量的平均值。
• 设计分布式梯度追踪（DGT）算法，利用本地梯度信息和基于一致性估计的全局平均值。
• 采用一种追踪机制，使每个代理能够通过本地通信估计全局决策变量的平均值。
• 利用固定、平衡且强连通的通信图，以确保信息交换和收敛性。
• 通过迭代矩阵的谱性质分析收敛性，利用特征值分析证明线性收敛。
• 应用扰动技术表明，对于足够小的步长，系统矩阵的谱半径小于1，从而保证线性收敛。

实验结果

研究问题

• RQ1 分布式优化能否扩展到局部目标函数依赖于所有代理变量平均值的情形？
• RQ2 何种分布式算法可在此类聚合优化问题中实现线性收敛？
• RQ3 强凸性和平衡通信图等假设如何影响收敛性？
• RQ4 所提算法能否通过一个真实的数值示例进行验证？

主要发现

• 在全局目标函数强凸性及通信图平衡且强连通的假设下，DGT算法实现了线性收敛速率。
• 对于足够小的正步长，系统矩阵的谱半径小于1，从而保证线性收敛。
• 该算法使每个代理能够通过本地通信和梯度追踪估计全局决策变量的平均值。
• 数值结果表明，所有代理的变量迅速收敛至其最优位置，且估计的平均值收敛至真实最优平均值。
• 每个代理均能准确追踪最优质心（即所有代理位置的平均值），证实了该算法的有效性。