[论文解读] Fixed-time Distributed Optimization under Time-Varying Communication Topology

Kunal Garg, Mayank Baranwal+2 more|arXiv (Cornell University)|May 24, 2019

Distributed Control Multi-Agent Systems参考文献 14被引用 12

一句话总结

本文提出了一种针对时变通信拓扑网络的固定时间分布式优化算法，无论初始条件如何，均可在保证的时间内收敛至全局最优解。该方法针对严格凸问题引入了一种基于二阶Hessian信息的非线性协议，针对强凸情况提出了对应的首阶变体，并进一步扩展至满足Polyak-Łojasiewicz不等式的非凸问题。

ABSTRACT

This paper presents a method to solve distributed optimization problem within a fixed time over a time-varying communication topology. Each agent in the network can access its private objective function, while exchange of local information is permitted between the neighbors. This study investigates first nonlinear protocol for achieving distributed optimization for time-varying communication topology within a fixed time independent of the initial conditions. For the case when the global objective function is strictly convex, a second-order Hessian based approach is developed for achieving fixed-time convergence. In the special case of strongly convex global objective function, it is shown that the requirement to transmit Hessians can be relaxed and an equivalent first-order method is developed for achieving fixed-time convergence to global optimum. Results are further extended to the case where the underlying team objective function, possibly non-convex, satisfies only the Polyak-Łojasiewicz (PL) inequality, which is a relaxation of strong convexity.

研究动机与目标

• 解决时变通信拓扑下分布式优化问题，其中收敛时间依赖于初始条件。
• 设计一种非线性协议，确保全局最优解的固定时间收敛，且不依赖于初始状态。
• 通过为强凸目标函数提出等价的首阶方法，减少对Hessian信息的依赖。
• 将框架扩展至满足Polyak-Łojasiewicz不等式的非凸问题，该条件弱于强凸性。

提出的方法

• 设计一种非线性协议，利用本地目标函数和邻居间信息交换，确保固定时间收敛。
• 针对严格凸全局目标函数，采用基于Hessian的二阶动态，实现固定时间收敛。
• 为强凸函数开发首阶等价方法，消除Hessian矩阵传输的需求。
• 通过利用Polyak-Łojasiewicz（PL）不等式作为强凸性的松弛条件，将方法扩展至非凸问题。
• 采用基于李雅普诺夫的分析方法，证明在时变通信图下仍可实现固定时间收敛。
• 通过仅依赖本地信息交换与邻近智能体之间的通信，保持计算的分布式特性。

实验结果

研究问题

• RQ1 在时变通信拓扑下，能否实现分布式优化的固定时间收敛？
• RQ2 在分布式设置中，如何确保固定时间收敛而不依赖于初始条件？
• RQ3 是否可能在不传输Hessian矩阵的前提下，仍为强凸问题保持固定时间收敛？
• RQ4 该框架能否扩展至满足PL不等式的非凸问题？
• RQ5 实现固定时间收敛所需的通信拓扑与目标函数的最小假设是什么？

主要发现

• 所提出的非线性协议在时变网络中，无论初始条件如何，均可实现对全局最优解的固定时间收敛。
• 对于严格凸目标函数，基于Hessian的二阶方法可确保固定时间收敛，并提供收敛时间的上界保证。
• 对于强凸目标函数，开发了首阶方法，避免了Hessian矩阵的传输，同时保持了固定时间收敛特性。
• 该框架被扩展至满足Polyak-Łojasiewicz不等式的非凸问题，确保在弱于强凸性的假设下仍可实现固定时间收敛。
• 基于李雅普诺夫稳定性分析，证实即使通信拓扑随时间变化，系统仍可在固定时间内收敛。
• 通过仅依赖本地目标函数和邻居间的信息交换，该方法保持了分布式计算的特性。