[논문 리뷰] Convergence Properties of Two (μ + λ) Evolutionary Algorithms On OneMax and Royal Roads Test Functions

Aram Ter-Sarkisov, Stephen Marsland|arXiv (Cornell University)|2011. 08. 20.

Metaheuristic Optimization Algorithms Research참고 문헌 8인용 수 5

한 줄 요약

이 논문은 OneMax 및 Royal Roads 테스트 함수에서 k-Bit-Swap 재조합 연산자와 RLS(랜덤라이즈드 로컬 서치) 변종을 사용하는 두 가지 ($\mu+\lambda$) 진화 알고리즘의 수렴 성질을 분석한다. 기대 수렴 시간에 대한 이론적 경계를 도출하여, 인구 크기가 Royal Roads에서는 성능 향상에 기여하지만 OneMax에서는 일관되게 기여하지는 않음을 보여주며, 균일 분포 및 포아송 분포 하에서의 渐近적 경향을 계산 결과가 확인한다.

ABSTRACT

We present a number of bounds on convergence time for two elitist population-based Evolutionary Algorithms using a recombination operator k-Bit-Swap and a mainstream Randomized Local Search algorithm. We study the effect of distribution of elite species and population size.

연구 동기 및 목표

• OneMax 및 Royal Roads 함수에서 k-Bit-Swap 및 RLS를 사용하는 엘리트형 ($\\mu+\\lambda$) EAs의 기대 수렴 시간에 대한 이론적 경계를 유도하는 것.
• 인구 크기 ($\\mu$), 재조합 풀 크기 ($\\lambda$), 엘리트 종 분포가 수렴에 미치는 영향을 조사하는 것.
• 엘리트 종의 균일 분포 및 포아송 분포 하에서 이론적 기대값과 계산 결과를 비교하는 것.
• 다양한 피트니스 지도에서 인구 기반 진화가 일관되게 성능 향상에 기여하는지 탐색하는 것.
• 특히 Royal Roads와 같이 위험하거나 기복이 심한 문제에서 인구 크기가 수렴을 어떻게 향상시키는지 조건을 규명하는 것.

제안 방법

• 엘리트형 EAs의 첫 번째 충돌 시간에 대한 경계를 유도하기 위해 드리프트 분석과 퍼텐셜 함수를 사용한다.
• 엘리트 쌍 선택 확률과 1-Bit-Swap 또는 단일 비트 반전(RLS)을 통한 더 나은 후손 생성 확률을 사용하여 수렴을 모델링한다.
• 모든 $\lambda$ 부모를 크기 $\mu$의 인구에서 토너먼트 선택을 통해 선정한다.
• 엘리트 수와 피트니스 차이의 합을 포함하는 복잡한 해석적 표현을 통해 기대 수렴 시간 $\\mathbf{E}\tau$를 유도한다.
• 닫힌 형태가 아닌 표현에 대해 계산적 추정을 사용하며, 엘리트 종에 대해 균일 분포(1/$\\mu$) 및 포아송 분포(1)를 적용한다.
• 각 파라미터 조합에 대해 50회의 독립 실행을 수행하고, 2000세대 동안 평균 최적화 시간 $\\tilde{\\tau}$ 를 측정하여 결과를 검증한다.

실험 결과

연구 질문

• RQ1 OneMax에서 인구 크기 ($\\mu$)를 증가시키면 항상 수렴 시간이 향상되는가?
• RQ2 다른 엘리트 종 분포(균일 대 포아송)가 수렴 시간 경계에 어떤 영향을 미치는가?
• RQ3 OneMax와 Royal Roads와 같은 다른 피트니스 지도에서 인구 크기의 이점은 일관되게 나타나는가?
• RQ4 엘리트 구성에 대한 합을 포함하는 복잡한 표현에 대해 기대 수렴 시간에 대한 이론적 경계를 도출하고 계산적으로 검증할 수 있는가?
• RQ5 이 테스트 함수에서 k-Bit-Swap 연산자와 RLS는 수렴 속도 및 인구 효율성 측면에서 어떻게 비교되는가?

주요 결과

• OneMax에서는 인구 크기를 증가시켜도 항상 성능 향상이 보장되지는 않으며, 이는 일관되지도 않다.
• Royal Roads에서는 인구 크기를 증가시키면 수렴이 일관되게 향상되며, 이론적 및 계산적 결과 모두에서 명확한 정향을 보인다.
• n=1000, $\\mu=\\lambda=10$ 인 OneMax에서 k-Bit-Swap의 이론적 기대 수렴 시간 $\\mathbf{E}\tau^{R}_{\\text{Algorithm1}}$ 는 약 1616.44로 추정되며, 계산 평균 $\\tilde{\\tau}$ 는 3807이다.
• n=128, $\\mu=\\lambda=30$ 인 Royal Roads에서는 이론적 $\\mathbf{E}\tau^{P}_{\\text{Algorithm2}}$ 는 871.11이며, 계산 평균 $\\tilde{\\tau}$ 는 1505이다.
• k-Bit-Swap 알고리즘은 이론적 및 계산적 결과 모두에서 RLS를 일관되게 능가하며, 특히 Royal Roads에서 두드러진 성능 향상을 보인다.
• 이론적 경계는 복잡하며 닫힌 형태가 없어 계산적 추정이 필요하다. 渐近적 경향은 관찰되었지만, 더 날카운 경계는 아직 도전 과제로 남아 있다.