[논문 리뷰] A Tight Runtime Analysis for the cGA on Jump Functions---EDAs Can Cross Fitness Valleys at No Extra Cost

Benjamin Doerr|arXiv (Cornell University)|2019. 03. 26.

Metaheuristic Optimization Algorithms Research참고 문헌 20인용 수 33

한 줄 요약

이 논문은 가상의 개체 수 µ = Ω(√n log n)를 갖는 compact genetic algorithm (cGA)가 점프 함수(점프 크기 k < (1/20) ln n)를 n차원에서 O(µ√n) 반복 안에 높은 확률로 최적화할 수 있음을 엄밀한 런타임 분석을 통해 제시한다. 대부분의 진화 알고리즘과 달리, cGA는 추가 비용 없이 적합도 골짜기를 넘어서며, 로그 크기의 점프 크기일지라도 OneMax 최적화 수준에 가까운 near-optimal 성능을 달성한다.

ABSTRACT

We prove that the compact genetic algorithm (cGA) with hypothetical population size $\mu = \Omega(\sqrt n \log n) \cap ext{poly}(n)$ with high probability finds the optimum of any $n$-dimensional jump function with jump size $k < \frac 1 {20} \ln n$ in $O(\mu \sqrt n)$ iterations. Since it is known that the cGA with high probability needs at least $\Omega(\mu \sqrt n + n \log n)$ iterations to optimize the unimodal OneMax function, our result shows that the cGA in contrast to most classic evolutionary algorithms here is able to cross moderate-sized valleys of low fitness at no extra cost. Our runtime guarantee improves over the recent upper bound $O(\mu n^{1.5} \log n)$ valid for $\mu = \Omega(n^{3.5+\varepsilon})$ of Hasen\"ohrl and Sutton (GECCO 2018). For the best choice of the hypothetical population size, this result gives a runtime guarantee of $O(n^{5+\varepsilon})$, whereas ours gives $O(n \log n)$. We also provide a simple general method based on parallel runs that, under mild conditions, (i)~overcomes the need to specify a suitable population size, but gives a performance close to the one stemming from the best-possible population size, and (ii)~transforms EDAs with high-probability performance guarantees into EDAs with similar bounds on the expected runtime.

연구 동기 및 목표

• 비단일점 문제, 특히 점프 함수에서의 추정-분포 알고리즘(EDAs)에 대한 이론적 이해의 격차를 메우기 위해.
• 이전의 cGA 런타임 경계가 큰 개체 수(예: µ = Ω(n^3.5+ε))를 요구하여 실제 적용이 불가능한 높은 런타임(예: O(n^5+ε))을 초래한 실용적 비효율성을 해결하기 위해.
• 중간 크기의 적합도 골짜기를 효율적으로 넘어서면서 渐近적 성능 저하 없이도 성능을 유지할 수 있음을 보여주기 위해.
• 고확률 런타임 보장을 기대 런타임 보장으로 전환하고, 개체 수 파라미터를 수동 조정할 필요 없이 제거하는 일반적인 방법을 제공하기 위해.

제안 방법

• 드리프트 분석과 농도 불등식을 사용하여 cGA의 점프 함수에서의 행동을 분석하고, 빈도 갱신과 수렴 시간을 제한한다.
• 가감 드리프트 정리를 적용하여 최적점으로부터의 거리(Dt)를 D′에서 D′′로 줄이는 데 소요되는 시간을 추정하며, E[T] = O(µ log n)임을 보인다.
• 샘플링이 적합도 골짜기에서 이루어지고 빈도 갱신과의 확률적 의존성을 고려한 보다 정교한 진전 추정을 사용하여, 이전 연구에서 사용된 잘못된 평균장 근사법을 수정한다.
• 사전에 최적의 µ를 알지 못해도 되는 조건에서, 병렬 실행을 통해 고확률 런타임 보장을 기대 런타임 보장으로 전환하는 새로운 방법을 제안한다.
• 두 단계 분석을 수행한다: 먼저 빈도가 0과 1에서 멀리 떨어져 있도록 보장하고, 그 다음에는 갭이 거의 샘플링되지 않는다는 가정 하에 최적점 수렴을 분석한다.
• 합집합 한계와 체르노프 유형의 한계를 사용하여 적합도 골짜기에서의 샘플링 확률를 제어하며, 주어진 조건 하에서 이 확률이 지수적으로 작다는 것을 보인다.

실험 결과

연구 질문

• RQ1 cGA는 중간 크기의 적합도 골짜기를 효율적으로 최적화할 수 있으며, 이는 단일점 OneMax 문제에 비해 런타임 비용이 증가하는가?
• RQ2 cGA의 점프 함수에 대한 가장 날카로운 런타임 보장은 무엇이며, 이는 가상의 개체 수 µ에 어떻게 의존하는가?
• RQ3 적합도 골짜기 샘플링과 진전 간의 확률적 의존성을 忽시하는 평균장 근사는 정당한가, 아니면 잘못된 경계를 초래하는가?
• RQ4 수동으로 개체 수 µ를 조정할 필요 없이 near-optimal 성능을 유지할 수 있는가?
• RQ5 EDAs에 대한 고확률 런타임 보장을 기대 런타임 보장으로 전환하는 것이 가능한가?

주요 결과

• µ = Ω(√n log n)이면서 다항적으로 유계인 µ를 갖는 cGA는 k < (1/20) ln n 조건을 만족하는 임의의 n차원 점프 함수를 O(µ√n) 반복 안에 높은 확률로 최적화한다.
• 최소 허용 µ = Θ(√n log n)일 경우, 런타임 보장은 O(n log n)이며, 이는 Hasenöhrl과 Sutton(2018)의 이전 O(n^5+ε) 보다 크게 향상된 것이다.
• cGA는 k < (1/20) ln n 조건을 만족하는 적합도 골짜기를 추가적인 渐近적 비용 없이 넘는다. 이는 대부분의 고전적 EAs가 Ω(nk) 시간이 필요로 하는 것과 대조된다.
• 논문은 이전 연구에서 사용된 잘못된 평균장 근사법을 규명하고 수정하며, 골짜기 샘플링과 진전 간의 의존성을 忽시할 경우 리스크를 과소평가하고 잘못된 경계를 초래할 수 있음을 보여준다.
• 고확률 런타임 보장을 기대 런타임 보장으로 전환하고, µ를 사전에 지정할 필요 없이 최적에 가까운 성능을 달성하기 위한 일반적인 방법을 제안한다.
• 분석 결과, 적합도 갭 내의 점을 샘플링할 확률은 최대 O(1/n)이며, 주어진 조건 하에서 이는 지수적으로 작다. 이는 cGA가 거의 갇히지 않는다는 것을 보장한다.