[논문 리뷰] The Distributed Genetic Algorithm Revisited

Theodore C. Belding|ArXiv.org|1995. 05. 04.

Metaheuristic Optimization Algorithms Research인용 수 148

한 줄 요약

이 논문은 Royal Road 적합도 함수에서 분산 유전 알고리즘(DGA)이 정규 유전 알고리즘(CGA)보다 성능을 어떻게 뛰어나게 하는지 평가한다. 함수 3과 4에서는 최적 적합도, 평균 적합도, 최적값에 도달하는 빈도 측면에서 DGA가 일관되게 CGA를 능가하며, 함수 1과 2에서는 유사한 성능을 보인다. DGA는 KSR 병렬 컴퓨터에서 초선형 속도 향상을 달성하고, 제어된 이주를 통해 다양성을 유지하여 조기 수렴을 방지한다.

ABSTRACT

This paper extends previous work done by Tanese on the distributed genetic algorithm (DGA). Tanese found that the DGA outperformed the canonical serial genetic algorithm (CGA) on a class of difficult, randomly-generated Walsh polynomials. This left open the question of whether the DGA would have similar success on functions that were more amenable to optimization by the CGA. In this work, experiments were done to compare the DGA's performance on the Royal Road class of fitness functions to that of the CGA. Besides achieving superlinear speedup on KSR parallel computers, the DGA again outperformed the CGA on the functions R3 and R4 with regard to the metrics of best fitness, average fitness, and number of times the optimum was reached. Its performance on R1 and R2 was comparable to that of the CGA. The effect of varying the DGA's migration parameters was also investigated. The results of the experiments are presented and discussed, and suggestions for future research are made.

연구 동기 및 목표

• 비병리적이고 더 최적화 가능성이 높은 적합도 함수에서 분산 유전 알고리즘(DGA)이 정규 유전 알고리즘(CGA)에 비해 우월성을 유지하는지 평가하기 위해.
• 이주 매개변수(이주 간격 i와 이주 비율 r)가 다양한 Royal Road 함수에 미치는 DGA 성능에 미치는 영향을 조사하기 위해.
• DGA가 어려운 Walsh 다항식에서 성공한 것이, 알려진 스키마를 가진 다른 벤치마크 적합도 함수로 일반화되는지 판단하기 위해.
• 병렬 아키텍처에서 DGA의 수렴 행동, 다양성 유지 능력, 속도 향상 정도를 CGA와 비교하기 위해.
• 이 연구의 결과와 Tanese의 이전 연구에서 파artitioned GAs와 이주 비율에 대한 결과 간의 괴리 원인을 분석하기 위해.

제안 방법

• DGA는 전역 인구를 프로세서 수만큼의 하위집단으로 분할하고, 각 하위집단이 독립적으로 CGA를 통해 진화한다.
• 정기적인 간격마다 고정 비율의 개체가 하위집단 간에 이주하며, 이주자들은 도착지 하위집단에서 무작위로 선택된 개체를 대체한다.
• 모든 프로세서가 한 세대를 완료한 후에 동기적으로 이주가 이루어져 하위집단 간 일관된 상태 전이를 보장한다.
• 이주 간격(i = 5, 10, 20, 50, 100, 500세대)과 이주 비율(r = 0.1, 0.2, 0.5)을 다양하게 설정하여 DGA의 성능을 평가한다.
• 직접 비교를 위해 동일한 문제 인스턴스에서 CGA를 순차적으로 실행하여 최적 적합도, 평균 적합도, 최적값에 도달한 횟수, 최적값에 도달하는 데 걸린 세대 수를 비교한다.
• 네 종류의 Royal Road 함수(R1–R4)에서 실험을 수행하며, 각 함수는 고정된 사전 정의된 스키마를 가짐으로써 시간에 따른 GA 성능 평가를 통제 가능하게 한다.

실험 결과

연구 질문

• RQ1 DGA가 Tanese가 연구한 병리적 Walsh 다항식보다 최적화 가능성이 더 높은 Royal Road 함수 3과 4에서 CGA를 능가하는가?
• RQ2 다양한 이주 매개변수(간격 i와 비율 r)가 DGA의 전역 최적값 탐색 능력과 인구 다양성 유지 능력에 미치는 영향는 어떠한가?
• RQ3 이전 연구 결과와는 달리, 고이주 비율(DGA, i=50, r=0.5)이 함수 3과 4에서 CGA를 능가하는 이유는 무엇인가?
• RQ4 이주 없이 i=500인 DGA가 다른 설정보다 열등한 성능을 보이는 이유는 무엇이며, 이는 Tanese의 이전 연구에서 파artitioned GAs가 CGA를 능가한다는 결과와 모순되는가?
• RQ5 DGA의 성능 향상이 KSR 병렬 컴퓨터에서 초선형 속도 향상 덕분인 정도는 어느 정도인가?

주요 결과

• DGA는 Royal Road 함수 3과 4에서 CGA를 상당히 능가했으며, i=50와 r=0.5 조건에서 500회 시행 중 215회 최적값에 도달했고, CGA의 경우 500회 중 18회에 그쳤다.
• 함수 3과 4에서 DGA는 모든 테스트된 이주 매개변수 설정에서 CGA보다 더 높은 평균 적합도와 더 나은 최적 적합도를 기록했다.
• DGA는 함수 3에서는 CGA보다 최적값에 도달하는 빈도가 4배 이상 높았고, 함수 4에서는 30배 이상 더 자주 최적값에 도달했다.
• DGA는 KSR 병렬 컴퓨터에서 초선형 속도 향상을 달성했으며, 이는 병렬화 전략이 선형 스케일링을 초월해 성능 향상을 이끌어낸다는 것을 시사한다.
• i=500(이주 없음)인 DGA는 모든 함수에서 가장 열악한 성능을 보였고, 이는 Tanese의 이전 연구에서 파artitioned GAs가 CGA를 능가한다는 결과와 모순되며, 이주 동역학이 성공의 핵심임을 시사한다.
• 놀랍게도 고이주 비율(i=50, r=0.5)이 가장 뛰어난 성능을 보였고, 저이주 비율(i=5, r=0.1)은 중간 설정보다 열등한 성능을 보였으며, 이는 최소한의 이주가 최적이라는 가정을 뒤집는 결과이다.