[論文レビュー] Convergence Analysis and Parallel Computing Implementation for the Multiagent Coordination Optimization Algorithm

Qing Hui, Haopeng Zhang|arXiv (Cornell University)|Jun 2, 2013

Distributed Control Multi-Agent Systems参考文献 37被引用数 7

ひとこと要約

本稿では、MATLABのparforを用いて並列実装されたMultiagent Coordination Optimization（MCO）アルゴリズムを提案し、半安定性理論を用いて厳密にグローバル収束を証明することで収束を高速化する。並列MCOは、シリアルMCOに比べ40–70%高速であり、ベンチマーク非線形・非凸関数においてPSOを精度と速度の両面で上回る性能を示す。

ABSTRACT

In this report, a novel variation of Particle Swarm Optimization (PSO) algorithm, called Multiagent Coordination Optimization (MCO), is implemented in a parallel computing way for practical use by introducing MATLAB built-in function "parfor" into MCO. Then we rigorously analyze the global convergence of MCO by means of semistability theory. Besides sharing global optimal solutions with the PSO algorithm, the MCO algorithm integrates cooperative swarm behavior of multiple agents into the update formula by sharing velocity and position information between neighbors to improve its performance. Numerical evaluation of the parallel MCO algorithm is provided in the report by running the proposed algorithm on supercomputers in the High Performance Computing Center at Texas Tech University. In particular, the optimal value and consuming time are compared with PSO and serial MCO by solving several benchmark functions in the literature, respectively. Based on the simulation results, the performance of the parallel MCO is not only superb compared with PSO for solving many nonlinear, noncovex optimization problems, but also is of high efficiency by saving the computational time.

研究の動機と目的

• リアルタイムおよび分散ネットワーク化されたシステムにおける、より高速で頑健かつ収束性を有するマルチエージェント最適化アルゴリズムの需要に対応する。
• 協調制御と隣接エージェント間の情報共有を統合することで、標準PSOを改善し、収束性と解の品質を向上させる。
• MATLABのparforを用いた効率的な並列計算実装により、MCOの実用的導入を可能にする。
• 半安定性理論を用いて、分散通信制約下でのMCOアルゴリズムのグローバル収束を厳密に分析し、理論的頑健性を保証する。
• 大規模最適化問題に対するスケーラビリティと性能向上を、ハイパフォーマンスコンピューティングシステム上で実証する。

提案手法

• MCOアルゴリズムの内部ループにMATLABのparfor関数を統合し、複数のワーカー上で並列実行を可能にする。
• 標準PSOの更新則を、共通認識に基づく制御項を介した隣接エージェント間の速度および位置共有を組み込むことで変更する。
• 分散通信制約下でのMCOアルゴリズムのグローバル収束を、半安定性理論を用いて厳密に分析する。
• 勾配ベースの適応と分散制御項を適用し、収束を加速させ、解の正確性を向上させる。
• テキサス・テック大学のハイパフォーマンスコンピューティング・センターでアルゴリズムを実装し、スーパーコンピュータ上で性能を評価する。
• 標準ベンチマーク関数（例：Sphere、Rosenbrock、Rastrigin）を用いて、シリアルMCO、並列MCO、PSOの間で計算時間と解の品質を比較する。

実験結果

リサーチクエスチョン

• RQ1 分散通信およびネットワーク制約下でもMCOアルゴリズムがグローバル収束を達成可能であり、形式的に証明可能か？
• RQ2 MATLABのparforを用いたMCOの並列実装は、計算効率およびスケーラビリティにどのように影響を与えるか？
• RQ3 非線形・非凸最適化問題において、MCOアルゴリズムは標準PSOを解の正確性と収束速度の両面で上回るか？
• RQ4 さまざまなベンチマーク関数において、並列MCOはシリアルMCOに比べて実際にどの程度のスピードアップと時間短縮を達成するか？
• RQ5 計算時間と解の品質の両面において、並列MCOは並列PSOに比べてどのように性能を発揮するか？

主な発見

• 並列MCOアルゴリズムは、すべてのベンチマーク関数においてシリアルMCO実装に比べて計算時間を40–70%短縮した。
• 並列MCOアルゴリズムは、シリアルMCOと同等の解の正確性を維持しており、すべてのテスト関数においてPSOの最良値よりも一貫して低い目的関数値を達成した。
• Sphere関数において、並列MCOは最良値4.1855×10⁻⁷を達成し、PSOの最良値3.3×10⁻³を上回った。
• 並列MCOのスピードアップ指標は、大規模な問題インスタンスにおいて最大2.5倍に達し、MATLABpool内のワーカー数の変動に対してもスケーラビリティが確認された。
• RastriginやGriewankのような複雑な関数において、MCOは中間値が10⁻⁶未満に達したのに対し、PSOは10⁻³を超える値を示した。
• 計算負荷が高めでも、並列MCOアルゴリズムはPSOよりも平均的および中央値の目的関数値が優れており、最適化能力の向上が確認された。