[论文解读] Distributed optimization with nonuniform unbounded convex constraint sets and nonuniform step-sizes

Peng Lin, Wei Ren|arXiv (Cornell University)|Mar 27, 2017

Distributed Control Multi-Agent Systems被引用 2

一句话总结

本文提出了一种用于具有非均匀凸约束集和非均匀步长的多智能体系统的分布式连续时间与离散时间优化算法，即使在约束集无界且通信图非强连通时，也能实现一致性与目标最小化。主要贡献在于在一般条件下实现全局最优解收敛，包括无界梯度和非均匀参数。

ABSTRACT

This paper is devoted to distributed continuous-time and discrete-time optimization problems with nonuniform convex constraint sets and nonuniform stepsizes for general differentiable convex objective functions. The communication graphs are not required to be strongly connected at any time, the gradients of the local objective functions are not required to be bounded when their independent variables tend to infinity, and the constraint sets are not required to be bounded. For continuous-time multi-agent systems, a distributed continuous algorithm is first introduced where the stepsizes and the convex constraint sets are both nonuniform. It is shown that all agents reach a consensus while minimizing the team objective function even when the constraint sets are unbounded. After that, the obtained results are extended to discrete-time multi-agent systems and then the case where each agent remains in a corresponding convex constraint set is studied. To ensure all agents to remain in a bounded region, a switching mechanism is introduced in the algorithms. It is shown that the distributed optimization problems can be solved, even though the discretization of the algorithms might deviate the convergence of the agents from the minimum of the objective functions. Finally, numerical examples are included to show the obtained theoretical results.

研究动机与目标

• 解决具有无界凸约束集的多智能体系统中的分布式优化问题。
• 设计在任意时刻均无需通信图强连通的算法。
• 确保在变量趋于无穷时梯度无界增长的情况下，仍能收敛至全局最小值。
• 将连续时间系统的结论扩展至离散时间系统，并引入切换机制以保持有界性。
• 通过在一般且现实的条件下进行数值示例，验证理论结果。

提出的方法

• 设计了一种具有非均匀步长和约束集的分布式连续时间算法，利用本地梯度信息与一致性动力学。
• 该算法确保所有智能体收敛至同一位置，以最小化总目标函数，即使在约束集无界时亦成立。
• 通过离散化连续时间动力学，将该方法扩展至离散时间系统，同时保持收敛性质。
• 在离散时间算法中引入切换机制，以确保智能体保持在有界区域内，从而保证稳定性和收敛性。
• 理论分析利用李雅普诺夫函数与凸函数的性质，证明在一般假设下实现收敛。
• 通过数值模拟在各种非均匀和无界设置下验证理论结果。

实验结果

研究问题

• RQ1 在具有非均匀、无界凸约束集和非均匀步长的连续时间多智能体系统中，能否实现分布式优化？
• RQ2 当通信图在任意时刻均非强连通时，该算法是否仍能保证收敛至全局最优解？
• RQ3 当连续时间版本被离散化且约束集无界时，离散时间算法如何保持收敛性？
• RQ4 何种机制可确保在具有无界约束的离散时间优化过程中，智能体保持在有界区域内？
• RQ5 所提出的算法能否在局部目标函数梯度无界的情况下，仍实现全局优化？

主要发现

• 连续时间分布式算法即使在约束集无界且梯度无界时，仍能实现一致性与全局目标最小化。
• 在一般条件下保证收敛，包括时变且非均匀的通信图，且无需强连通性要求。
• 只要应用切换机制以保持有界性，离散时间版本的算法仍能收敛至最优解，即使存在离散化误差。
• 切换机制有效防止智能体发散，同时保持对全局最小值的收敛性。
• 数值示例证实，理论上的收敛行为在非均匀和无界设置下实际可观察到。