[논문 리뷰] Optimal Parameter Choices Through Self-Adjustment: Applying the 1/5-th Rule in Discrete Settings

Benjamin Doerr, Carola Doerr|arXiv (Cornell University)|2015. 04. 13.

Metaheuristic Optimization Algorithms Research참고 문헌 20인용 수 12

한 줄 요약

이 논문은 이산 최적화에서 $(1+(\lambda,\lambda))$ 유전적 알고리즘에 대해 한-분할 성공 규칙을 사용하여 자가 조정되는 인구 크기 메커니즘을 도입하고 분석한다. 성공률이 1/5를 초과하면 $\lambda$를 증가시키고, 그렇지 않으면 감소시켜 동적으로 $\lambda$를 조정함으로써, OneMax 문제에서 선형 예상 최적화 시간을 달성하며, 정적 $\lambda$보다 우수하고 모든 적응형 및 정적 매개변수 선택 중에서 점점 더 최적임을 증명한다.

ABSTRACT

While evolutionary algorithms are known to be very successful for a broad range of applications, the algorithm designer is often left with many algorithmic choices, for example, the size of the population, the mutation rates, and the crossover rates of the algorithm. These parameters are known to have a crucial influence on the optimization time, and thus need to be chosen carefully, a task that often requires substantial efforts. Moreover, the optimal parameters can change during the optimization process. It is therefore of great interest to design mechanisms that dynamically choose best-possible parameters. An example for such an update mechanism is the one-fifth success rule for step-size adaption in evolutionary strategies. While in continuous domains this principle is well understood also from a mathematical point of view, no comparable theory is available for problems in discrete domains. In this work we show that the one-fifth success rule can be effective also in discrete settings. We regard the $(1+(λ,λ))$~GA proposed in [Doerr/Doerr/Ebel: From black-box complexity to designing new genetic algorithms, TCS 2015]. We prove that if its population size is chosen according to the one-fifth success rule then the expected optimization time on extsc{OneMax} is linear. This is better than what \emph{any} static population size $λ$ can achieve and is asymptotically optimal also among all adaptive parameter choices.

연구 동기 및 목표

• 진화 알고리즘에서 최적의 매개변수를 선택하는 데 도전하는 문제를 다루며, 특히 정적 매개변수 설정이 종종 최적 성능을 이끌지 못하는 이산 설정에서의 문제를 다룬다.
• 적응형 매개변수 제어 메커니즘(예: 1/5 성공 규칙)이 이산 최적화에서 정적 매개변수 설정보다 증명 가능하게 더 나은 성능을 낼 수 있는지 탐구한다.
• 자기 조정 매개변수 선택이 이산 영역에서 점점 더 최적의 런타임을 달성할 수 있음을 보여주어, 1/5 규칙의 이론적 이해를 연속 영역을 넘어서 확장한다.
• 1/5 성공 규칙이 $(1+(\lambda,\lambda))$ GA의 인구 크기 $\lambda$에 적용될 경우 일반화된 OneMax 함수에서 선형 예상 최적화 시간을 얻을 수 있음을 보여준다.

제안 방법

• 연속 영역에서 단계 크기 제어를 위해 개발된 1/5 성공 규칙을 이산 설정에 적용하기 위해, 자식의 적합도 향상 성공률을 이용해 인구 크기 $\lambda$를 지도한다.
• 매 세대당 $\lambda$개의 자식을 생성하는 변이, 교차 및 선택 단계를 포함하는 $(1+(\lambda,\lambda))$ GA 프레임워크를 사용한다.
• 각 반복 후 $\lambda$를 동적으로 조정한다: 성공률이 1/5를 초과하면 증가, 그렇지 않으면 감소시켜 목표 성공 확률 1/5를 유지한다.
• 드리프트 분석과 요아의 최소최대 원리를 사용하여 예상 최적화 시간을 분석하고 런타임 경계를 확립한다.
• 정적 $\lambda$ 설정과 적합도 기반 스킴과의 성능을 비교하여, 예상 런타임에서의 우월성을 보여준다.
• 자기 조정 메커니즘이 선형 예상 런타임을 달성하며, 이는 모든 가능한 매개변수 선택(정적 또는 적응형) 중에서 최적임을 증명한다.

실험 결과

연구 질문

• RQ1 1/5 성공 규칙은 이전에 이론적으로 확립되지 않은 이산 최적화 설정에 효과적으로 적용될 수 있는가?
• RQ2 $(1+(\lambda,\lambda))$ GA에서 인구 크기 $\lambda$를 자기 조정하면 어떤 정적 $\lambda$보다도 더 나은 예상 최적화 시간을 얻을 수 있는가?
• RQ3 자기 조정 메커니즘은 OneMax에서 예상 런타임 측면에서 점점 더 최적인가?
• RQ4 문제에 특화된 지식이 필요 없는 매개변수 업데이트 규칙이 이산 진화 알고리즘에서 여전히 최적 성능을 달성할 수 있는가?

주요 결과

• 1/5 성공 규칙을 적용한 자기 조정 $(1+(\lambda,\lambda))$ GA는 일반화된 OneMax 함수에서 선형 예상 최적화 시간을 달성한다.
• 이 선형 런타임은 점점 더 최적이며, 다른 정적 또는 적응형 매개변수 선택이 유의미하게 더 작은 예상 런타임을 달성할 수 없다.
• 자기 조정 알고리즘의 성능은 어떤 정적 인구 크기 $\lambda$보다도 $\Theta(\sqrt{\log n \cdot \log\log\log n / \log\log n})$ 요인만큼 뛰어나다.
• 1/5 성공 규칙은 최적의 인구 크기 값을 최적화 과정의 각 단계에서 이론적으로 최적에 가까운 값으로 동적으로 선택한다.
• 결과적으로 자기 조정 매개변수 선택이 이산 최적화에서 증명 가능하게 유리할 수 있음을 보여주며, 1/5 규칙의 적용 범위를 연속 영역을 넘어서 확장한다.
• 분석은 자기 조정 메커니즘이 적합도 기반 매개변수 선택과 비교해도 최적임을 확인한다. 후자는 평균적으로 함수 평가당 상수 수준의 적합도 향상만 달성할 수 있기 때문이다.