[论文解读] Convergence Analysis and Parallel Computing Implementation for the Multiagent Coordination Optimization Algorithm

Qing Hui, Haopeng Zhang|arXiv (Cornell University)|Jun 2, 2013

Distributed Control Multi-Agent Systems参考文献 37被引用 7

一句话总结

本论文提出了一种基于 MATLAB 的 parfor 实现的多智能体协调优化（MCO）算法并行化方法，以加速收敛，同时通过微分稳定性理论严格证明了全局收敛性。并行 MCO 在所有基准非线性、非凸函数上的计算速度比串行 MCO 快 40–70%，且在准确性和速度方面均优于 PSO。

ABSTRACT

In this report, a novel variation of Particle Swarm Optimization (PSO) algorithm, called Multiagent Coordination Optimization (MCO), is implemented in a parallel computing way for practical use by introducing MATLAB built-in function "parfor" into MCO. Then we rigorously analyze the global convergence of MCO by means of semistability theory. Besides sharing global optimal solutions with the PSO algorithm, the MCO algorithm integrates cooperative swarm behavior of multiple agents into the update formula by sharing velocity and position information between neighbors to improve its performance. Numerical evaluation of the parallel MCO algorithm is provided in the report by running the proposed algorithm on supercomputers in the High Performance Computing Center at Texas Tech University. In particular, the optimal value and consuming time are compared with PSO and serial MCO by solving several benchmark functions in the literature, respectively. Based on the simulation results, the performance of the parallel MCO is not only superb compared with PSO for solving many nonlinear, noncovex optimization problems, but also is of high efficiency by saving the computational time.

研究动机与目标

• 解决实时和分布式网络化系统中对更快、更鲁棒且可收敛的多智能体优化算法的需求。
• 通过集成协同控制与基于邻居的信息共享，改进标准 PSO，以提升收敛性和解的质量。
• 通过使用 MATLAB 的 parfor 实现高效并行计算，实现 MCO 的实际部署。
• 利用微分稳定性理论对 MCO 算法进行严格的全局收敛性分析，确保理论上的鲁棒性。
• 在高性能计算系统上展示并行 MCO 在大规模优化问题中的可扩展性和性能提升。

提出的方法

• 将 MATLAB 的 parfor 函数集成到 MCO 算法的内层循环中，以实现在多个工作节点上的并行执行。
• 通过基于一致性控制项的邻居间速度和位置共享，修改标准 PSO 更新规则。
• 应用微分稳定性理论，严格分析在分布式通信约束下 MCO 算法的全局收敛性。
• 采用基于梯度的自适应策略和分布式控制项，以加速收敛并提高解的准确性。
• 在德克萨斯理工大学高性能计算中心的超级计算机上实现并评估该算法的性能。
• 使用标准基准函数（如 Sphere、Rosenbrock、Rastrigin）比较串行 MCO、并行 MCO 和 PSO 的计算时间与解的质量。

实验结果

研究问题

• RQ1 在分布式通信和网络约束条件下，MCO 算法能否实现全局收敛，且能否形式化证明？
• RQ2 通过 MATLAB 的 parfor 实现 MCO 的并行化，对计算效率和可扩展性有何影响？
• RQ3 在非线性、非凸优化问题上，MCO 算法是否在解的准确性和收敛速度方面优于标准 PSO？
• RQ4 与串行 MCO 相比，并行 MCO 在不同基准函数上实际实现了多大的加速比和时间减少？
• RQ5 在计算时间和解质量方面，并行 MCO 与并行 PSO 的性能相比如何？

主要发现

• 在所有基准函数上，并行 MCO 算法相比串行 MCO 实现了 40–70% 的计算时间减少。
• 并行 MCO 算法保持了与串行 MCO 相当的解精度，且在所有测试函数中最佳目标值始终低于 PSO。
• 对于 Sphere 函数，并行 MCO 达到的最佳值为 4.1855×10⁻⁷，优于 PSO 的最佳值 3.3×10⁻³。
• 在较大问题实例上，并行 MCO 的加速比最高达到 2.5 倍，且在 MATLABpool 中不同工作节点数量下均验证了可扩展性。
• MCO 算法在复杂函数（如 Rastrigin 和 Griewank）上表现出更优的收敛性能，其中位数目标值低于 10⁻⁶，而 PSO 的值则高于 10⁻³。
• 尽管计算负载更高，并行 MCO 算法在平均值和中位数目标值上仍优于 PSO，证实了其更强的优化能力。