[论文解读] Asynchronous Gossip-Based Random Projection Algorithms Over Networks

Soomin Lee, Angelia Nedich|arXiv (Cornell University)|Apr 5, 2013

Distributed Control Multi-Agent Systems参考文献 6被引用 4

一句话总结

本文提出了一种异步的基于gossip的随机投影（GRP）算法，用于在无中心协调器的多智能体网络中进行分布式凸优化。通过使用本地异步更新和对单个约束的随机投影，该算法在使用递减步长时实现了几乎必然收敛至最优解，并在使用常数步长时提供了误差界，从而为大规模且受限的问题（如鲁棒模型预测控制）提供了高效、可扩展的解决方案。

ABSTRACT

We consider a fully distributed constrained convex optimization problem over a multi-agent (no central coordinator) network. We propose an asynchronous gossip-based random projection (GRP) algorithm that solves the distributed problem using only local communications and computations. We analyze the convergence properties of the algorithm for an uncoordinated diminishing stepsize and a constant stepsize. For a diminishing stepsize, we prove that the iterates of all agents converge to the same optimal point with probability 1. For a constant stepsize, we establish an error bound on the expected distance from the iterates of the algorithm to the optimal point. We also provide simulation results on a distributed robust model predictive control problem.

研究动机与目标

• 开发一种完全分布式的优化算法，无需中心协调器或全局协调。
• 解决资源受限的智能体（如无线传感器）在全约束集投影中面临的计算负担。
• 在保持使用未协调步长时收敛性的前提下，实现异步、本地通信与计算。
• 在分布式设置下，为递减步长和常数步长提供理论收敛保证。
• 在具有实际网络拓扑结构的分布式鲁棒模型预测控制问题上验证该算法。

提出的方法

• 该算法采用gossip通信协议，成对智能体随机交换并异步更新其本地估计值。
• 每个智能体在每次迭代中对随机选择的本地约束集执行随机投影，从而降低计算负载。
• 该方法采用递减步长以实现几乎必然收敛至最优解，采用常数步长以实现有界误差性能。
• 该算法设计用于处理分布式目标函数和本地约束集，无需全局知识或同步机制。
• 理论分析利用随机逼近和马尔可夫链性质，建立了收敛性和误差界。
• 仿真采用具有框式不确定性的鲁棒模型预测控制问题，并将其重新表述为二次规划以进行验证。

实验结果

研究问题

• RQ1 在分布式网络中，一种基于gossip的异步随机投影算法能否实现几乎必然收敛至最优解？
• RQ2 在异步设置下，使用未协调的递减步长时，该算法的收敛行为如何？
• RQ3 当使用常数步长时，该算法的性能如何？能否为到最优解的期望距离建立误差界？
• RQ4 网络拓扑如何影响在不同步长策略下算法的收敛速度和性能？
• RQ5 该算法能否在无需全局约束集知识的前提下，高效处理分布式、局部受限的优化问题？

主要发现

• 在使用递减步长时，所有智能体的迭代序列以概率1收敛至同一最优解，确保了全局最优性。
• 在使用常数步长时，迭代序列到最优解的期望距离被有界，提供了性能的定量度量。
• 当使用递减步长时，算法的收敛性对网络拓扑具有鲁棒性，仿真结果在团、环和星型拓扑中均得到验证。
• 在使用常数步长时，收敛速度因拓扑而异——星型网络收敛更慢，原因在于智能体被选中的概率不均等，从而影响步长自适应。
• 对于更大的网络（m=10），谱隙差异减小，导致在常数步长下不同拓扑间的性能差异降低。
• 在分布式鲁棒模型预测控制问题上的仿真结果证实了快速的误差衰减和良好的可扩展性，验证了该算法的实际适用性。