[논문 리뷰] A Tight Runtime Analysis of the $(1+(\lambda, \lambda))$ Genetic Algorithm on OneMax

Benjamin Doerr, Carola Doerr|arXiv (Cornell University)|2015. 06. 19.

Metaheuristic Optimization Algorithms Research참고 문헌 17인용 수 5

한 줄 요약

이 논문은 OneMax 문제에서 (1+(λ, λ)) 유전적 알고리즘의 빠른 실행 시간 분석을 제시하며, 모든 λ ∈ [1..n]에 대해 기대 최적화 시간이 Θ(max{n log n / λ, nλ log log λ / log λ})임을 보여준다. 주요 기여는 상한과 하한이 일치하는 분석으로, λ = Θ(√(log n log log n / log log log n))일 때 최적의 실행 시간 Θ(n√(log n log log log n / log log n))을 얻게 되며, 이는 이전의 느슨한 상한보다 크게 향상된 결과이며, 병렬 형질 전이 과정에서 희귀하고 높은 적합도를 가진 후손이 발생함으로써 발생하는 복잡도 감소 효과를 드러낸다.

ABSTRACT

Understanding how crossover works is still one of the big challenges in evolutionary computation research, and making our understanding precise and proven by mathematical means might be an even bigger one. As one of few examples where crossover provably is useful, the $(1+(\lambda, \lambda))$ Genetic Algorithm (GA) was proposed recently in [Doerr, Doerr, Ebel: TCS 2015]. Using the fitness level method, the expected optimization time on general OneMax functions was analyzed and a $O(\max\{n\log(n)/\lambda, \lambda n\})$ bound was proven for any offspring population size $\lambda \in [1..n]$. We improve this work in several ways, leading to sharper bounds and a better understanding of how the use of crossover speeds up the runtime in this algorithm. We first improve the upper bound on the runtime to $O(\max\{n\log(n)/\lambda, n\lambda \log\log(\lambda)/\log(\lambda)\})$. This improvement is made possible from observing that in the parallel generation of $\lambda$ offspring via crossover (but not mutation), the best of these often is better than the expected value, and hence several fitness levels can be gained in one iteration. We then present the first lower bound for this problem. It matches our upper bound for all values of $\lambda$. This allows to determine the asymptotically optimal value for the population size. It is $\lambda = \Theta(\sqrt{\log(n)\log\log(n)/\log\log\log(n)})$, which gives an optimization time of $\Theta(n \sqrt{\log(n)\log\log\log(n)/\log\log(n)})$. Hence the improved runtime analysis gives a better runtime guarantee along with a better suggestion for the parameter $\lambda$. We finally give a tail bound for the upper tail of the runtime distribution, which shows that the actual runtime exceeds our runtime guarantee by a factor of $(1+\delta)$ with probability $O((n/\lambda^2)^{-\delta})$ only.

연구 동기 및 목표

• OneMax 함수에서 (1+(λ, λ)) GA의 빠르고 정확한 실행 시간 분석을 제공하여 이전의 느슨한 상한을 향상시키는 것.
• OneMax 문제에서 (1+(λ, λ)) GA에 대해 처음으로 일치하는 하한을 확립하여 점점 더 최적의 개체 수 λ를 식별할 수 있도록 하는 것.
• 이 알고리즘에서 복합 형질 전이의 가속화 메커니즘을 드러내며, 특히 병렬 후손 생성 과정에서 매우 높은 적합도를 가진 후손의 역할을 규명하는 것.
• 실제 실행 시간이 기대값보다 (1+δ) 배 이상 초과할 확률이 O((n/λ²)⁻ᵟ) 수준으로 감소함을 보여주는 강력한 尾확률 경계를 유도하여 고확률 성능 보장을 확보하는 것.

제안 방법

• 기대 최적화에 도달하는 세대 수를 제한하기 위해 적합도 수준 방법과 드리프트 분석을 사용하였다.
• Chernoff 경계를 사용하여 형질 전이 후손의 새로운 1비트 수의 분포를 분석하여, 높은 확률로 각 후손의 새로운 1비트 수가 평균 주변에 집중되어 있음을 보였다.
• 형질 전이 단계에 대한 개선된 분석을 도입하여, 비할 데 없는 확률로 λ명의 후손 중 적어도 한 명이 예상보다 훨씬 많은 1비트를 확보함을 보여주었으며, 이는 반복 단계당 여러 적합도 수준 향상을 가능하게 하였다.
• 덧셈 드리프트 정리와 적합도 향상에 대한 확률적 경계를 결합하여 기대 최적화 시간의 하한을 도출하였다.
• 동시에 생성되는 λ명의 후손 중 최고의 후손이 종종 기대 적합도 향상보다 뛰어나므로, 수렴 속도를 높일 수 있음을 관찰하여 상한을 더욱 강화하였다.
• 집중 불등식을 사용하여 실행 시간 분포의 꼬리 경계를 증명하였으며, 기대 실행 시간에서의 큰 이격은 매우 일어나지 않음을 보였다.

실험 결과

연구 질문

• RQ1 OneMax 함수에서 (1+(λ, λ)) GA의 정확한 기대 최적화 시간은 무엇이며, 후손 개체 수 λ에 따라 어떻게 달라지나?
• RQ2 OneMax 문제에서 (1+(λ, λ)) GA에 대해 일치하는 하한을 확립할 수 있으며, 이는 향상된 상한과 일치하는가?
• RQ3 기대 최적화 시간을 최소화하는 점점 더 최적의 λ 값은 무엇인가?
• RQ4 (1+(λ, λ)) GA의 성능은 λ명의 병렬 형질 전이 후손 중 최고 적합도를 가진 후손에 어떻게 의존하는가? 그리고 이것이 초수렴적 가속도를 유도하는 이유는 무엇인가?
• RQ5 실제 실행 시간이 기대값보다 (1+δ) 배 이상 초과할 확률은 얼마이며, 이 확률은 λ에 따라 어떻게 감소하는가?

주요 결과

• 모든 λ ∈ [1..n]에 대해 OneMax 문제에서 (1+(λ, λ)) GA의 기대 최적화 시간은 Θ(max{n log n / λ, nλ log log λ / log λ})이며, 이는 빠른 실행 시간 보장을 제공한다.
• OneMax 문제에서 (1+(λ, λ)) GA에 대해 처음으로 일치하는 하한이 확립되었으며, 이는 모든 λ에 대해 상한의 점점 더 정밀한 수준을 확인한다.
• 점점 더 최적의 후손 개체 수는 λ = Θ(√(log n log log n / log log log n))이며, 이는 기대 최적화 시간을 최소화한다.
• 최적의 기대 최적화 시간은 Θ(n√(log n log log log n / log log n))이며, 이는 이전의 최선의 상한 O(n√log n)보다 초수렴적 요인 향상이다.
• 실행 시간 분포는 강력한 집중성을 보이며, 실제 실행 시간이 기대값을 (1+δ) 배 이상 초과할 확률은 최대 O((n/λ²)⁻ᵟ) 이하로 감소함을 나타내어 실행 시간 추정의 높은 신뢰성을 보여준다.
• (1+(λ, λ)) GA의 가속도는 주로 병렬 형질 전이 과정에서 매우 높은 적합도를 가진 후손이 존재하기 때문이며, 이는 돌연변이 단계에서가 아니라 형질 전이 단계에서 비롯됨을 강조한다. 이는 수렴 가속화에 있어 형질 전이의 핵심적 역할을 입증한다.