[논문 리뷰] Convergence Analysis and Parallel Computing Implementation for the Multiagent Coordination Optimization Algorithm

Qing Hui, Haopeng Zhang|arXiv (Cornell University)|2013. 06. 02.

Distributed Control Multi-Agent Systems참고 문헌 37인용 수 7

한 줄 요약

이 논문은 MATLAB의 parfor를 사용하여 다중에이전트 조율 최적화(MCO) 알고리즘의 병렬 구현을 제안하며, 반면에 반안정성 이론을 통해 전역 수렴성을 엄밀히 증명한다. 병렬 MCO는 순차적 MCO 대비 40–70% 빠른 계산을 달성하고, 벤치마크 비선형, 비볼록 함수에서 정확도와 속도 면에서 PSO를 능가한다.

ABSTRACT

In this report, a novel variation of Particle Swarm Optimization (PSO) algorithm, called Multiagent Coordination Optimization (MCO), is implemented in a parallel computing way for practical use by introducing MATLAB built-in function "parfor" into MCO. Then we rigorously analyze the global convergence of MCO by means of semistability theory. Besides sharing global optimal solutions with the PSO algorithm, the MCO algorithm integrates cooperative swarm behavior of multiple agents into the update formula by sharing velocity and position information between neighbors to improve its performance. Numerical evaluation of the parallel MCO algorithm is provided in the report by running the proposed algorithm on supercomputers in the High Performance Computing Center at Texas Tech University. In particular, the optimal value and consuming time are compared with PSO and serial MCO by solving several benchmark functions in the literature, respectively. Based on the simulation results, the performance of the parallel MCO is not only superb compared with PSO for solving many nonlinear, noncovex optimization problems, but also is of high efficiency by saving the computational time.

연구 동기 및 목표

• 실시간 및 분산 네트워크 기반 시스템에서 더 빠르고 견고하며 수렴 가능한 다중에이전트 최적화 알고리즘이 요구되는 문제를 해결한다.
• 협동 제어와 이웃 기반 정보 공유를 통합하여 표준 PSO를 개선함으로써 수렴성과 해의 품질을 향상시킨다.
• MATLAB의 parfor를 활용한 효율적 병렬 계산 구현을 통해 MCO의 실용적 구현을 가능하게 한다.
• 반안정성 이론을 적용하여 분산 통신 제약 조건 하에서 MCO 알고리즘의 전역 수렴성을 엄밀히 분석함으로써 이론적 견고성을 확보한다.
• 대규모 최적화 문제를 위한 고성능 계산 시스템에서 병렬 MCO의 확장성과 성능 향상을 입증한다.

제안 방법

• MCO 알고리즘의 내부 루프에 MATLAB의 parfor 기능을 통합하여 다수의 워커에서 병렬 실행을 가능하게 한다.
• 표준 PSO 업데이트 규칙을 개선하여 공식 기반 제어 항을 통해 이웃 간 속도 및 위치 공유를 통합한다.
• 분산 통신 제약 조건 하에서 MCO 알고리즘의 전역 수렴성을 엄밀히 분석하기 위해 반안정성 이론을 적용한다.
• 기울기 기반 적응 및 분산 제어 항을 도입하여 수렴 속도를 가속화하고 해의 정확도를 향상시킨다.
• 초기 최적화 성능 평가를 위해 텍사스 테크 대학교 고성능 계산 센터의 슈퍼컴퓨터를 활용하여 알고리즘을 구현한다.
• 표준 벤치마크 함수(예: Sphere, Rosenbrock, Rastrigin)를 사용하여 순차적 MCO, 병렬 MCO, PSO 간의 계산 시간과 해의 품질을 비교한다.

실험 결과

연구 질문

• RQ1 분산 통신 및 네트워크 제약 조건 하에서 MCO 알고리즘이 전역 수렴성을 확보할 수 있으며, 이는 공식적으로 증명될 수 있는가?
• RQ2 MATLAB의 parfor를 통한 MCO의 병렬 구현이 계산 효율성과 확장성에 어떤 영향을 미치는가?
• RQ3 비선형, 비볼록 최적화 문제에서 표준 PSO에 비해 MCO 알고리즘이 해의 정확도와 수렴 속도 면에서 뛰어나게 되는가?
• RQ4 다양한 벤치마크 함수에서 병렬 MCO가 순차적 MCO 대비 실제 속도 향상과 시간 단축을 얼마나 달성하는가?
• RQ5 병렬 MCO의 계산 시간과 해의 품질 면에서 병렬 PSO와 비교해 볼 때 어떤 성능 차이가 있는가?

주요 결과

• 모든 벤치마크 함수에서 병렬 MCO 알고리즘은 순차적 MCO 대비 계산 시간을 40–70% 감소시켰다.
• 병렬 MCO 알고리즘은 순차적 MCO와 유사한 해의 정확도를 유지하였으며, 모든 테스트 함수에서 PSO보다 항상 낮은 최적 목적값을 기록하였다.
• Sphere 함수의 경우, 병렬 MCO는 최적값 4.1855×10⁻⁷을 달성하여 PSO의 최적값 3.3×10⁻³을 능가했다.
• 대규모 문제 인스턴스에서 병렬 MCO의 속도 향상 지표는 최대 2.5배에 이르렀으며, MATLABpool의 워커 수 변화에 따라 확장성이 확인되었다.
• Rastrigin 및 Griewank와 같은 복잡한 함수에서 MCO는 중앙값이 10⁻⁶ 이하로 떨어지는 뛰어난 수렴 성능를 보였고, PSO는 10⁻³ 이상의 값을 기록하였다.
• 더 높은 계산 부하에도 불구하고, 병렬 MCO 알고리즘은 평균 및 중앙값 목적값 면에서 PSO보다 뛰어난 성능을 보였으며, 이는 향상된 최적화 능력을 확인한다.