[논문 리뷰] On the Effectiveness of Simple Success-Based Parameter Selection Mechanisms for Two Classical Discrete Black-Box Optimization Benchmark Problems

Carola Doerr, Markus Wagner|arXiv (Cornell University)|2018. 03. 04.

Metaheuristic Optimization Algorithms Research참고 문헌 17인용 수 8

한 줄 요약

이 논문은 (1+1) 진화 알고리즘을 위한 단순한 성공 기반 곱셈 파라미터 제어 규칙을 제안한다. 이 규칙은 각 세대가 향상된 결과를 내는지 여부에 따라 돌연변이 확률을 조정한다. 이 방법은 OneMax 및 LeadingOnes 문제에서 거의 최적의 성능를 달성하며, LeadingOnes 문제에서는 최고의 정적 단항 비편향 블랙박스 알고리즘보다 최대 18% 빠른 성능을 보이며, 높은 성능가능성이 복잡한 적응 메커니즘에 의존하지 않음을 입증한다.

ABSTRACT

Despite significant empirical and theoretically supported evidence that non-static parameter choices can be strongly beneficial in evolutionary computation, the question how to best adjust parameter values plays only a marginal role in contemporary research on discrete black-box optimization. This has led to the unsatisfactory situation in which feedback-free parameter selection rules such as the cooling schedule of Simulated Annealing are predominant in state-of-the-art heuristics, while, at the same time, we understand very well that such time-dependent selection rules can only perform worse than adjustment rules that do take into account the evolution of the optimization process. A number of adaptive and self-adaptive parameter control strategies have been proposed in the literature, but did not (yet) make their way to a broader public. A key obstacle seems to lie in their rather complex update rules. The purpose of our work is to demonstrate that high-performing online parameter selection rules do not have to be very complicated. More precisely, we experiment with a multiplicative, comparison-based update rule to adjust the mutation probability of a (1+1)~Evolutionary Algorithm. We show that this simple self-adjusting rule outperforms the best static unary unbiased black-box algorithm on LeadingOnes, achieving an almost optimal speedup of about~$18\%$.

연구 동기 및 목표

• 이성적인 피드백 기반 파라미터 제어 메커니즘이 이산 블랙박스 최적화에서 정적 파라미터 설정을 능가할 수 있는지 조사하는 것.
• 진화 알고리즘에서 돌연변이 확률을 조정하기 위한 곱셈형 비교 기반 업데이트 규칙의 효과성을 평가하는 것.
• 고성능의 온라인 파라미터 선택이 복잡한 적응 또는 자가적응 메커니즘에 의존하지 않아도 되는지 보여주는 것.
• 제안된 적응형 (1+1) EA 변종의 성능을 고전적 기준 문제에서 정적 및 최적의 단항 비편향 블랙박스 알고리즘과 비교하는 것.
• 이 방법의 문제 차원 및 파라미터 설정에 따라 확장성과 강건성을 탐색하는 것.

제안 방법

• 이 방법은 성공 시 돌연변이 확률을 A > 1의 요소로 곱하여 증가시키고, 실패 시 b < 1의 요소로 감소시키는 곱셈형 업데이트 규칙을 사용한다.
• 돌연변이 확률은 p₀ = 1/n로 초기화되며, 이는 이전 세대의 성공 또는 실패 여부에 따라 온라인으로 업데이트된다.
• 알고리즘은 부모와 다를 경우에만 후손을 평가하는 (1+1) EA 변종에 적용되며, 이는 중복 평가를 방지한다.
• 업데이트 규칙은 비교 기반이며, 절대적 적합도 값이나 기울기 정보를 사용하지 않고, 후손이 부모를 향상시켰는지 여부에만 의존한다.
• 이 방법은 두 가지 고전적인 이산 블랙박스 문제인 OneMax 및 LeadingOnes에 대해 평가되며, 여러 문제 크기(n ≤ 3,000)에 대해 분석된다.
• 성능는 1,001번의 독립 실행 평균 최적화 시간을 통해 측정되며, RLS, 정적 파rameter를 사용하는 (1+1) EA, 이론적으로 최적의 단항 비편향 알고리즘과 비교된다.

실험 결과

연구 질문

• RQ1 단순한 성공 기반 곱셈형 업데이트 규칙이 이산 블랙박스 문제에서 이론적 최적에 가까운 성능를 달성할 수 있는가?
• RQ2 제안된 적응형 (1+1) EA α는 OneMax 및 LeadingOnes 문제에서 최고의 정적 단항 비편향 블랙박스 알고리즘을 능가하는가?
• RQ3 다양한 업데이트 규칙 파라미터(A, b) 설정에서 문제 차원 n이 증가함에 따라 적응 메커니즘의 성능는 어떻게 변화하는가?
• RQ4 적응형 파라미터 선택이 최적의 돌연변이 확률을 최적화 과정 전반에 걸쳐 얼마나 잘 추적하는가?
• RQ5 단순한 비교 기반 피드백 메커니즘이 성공 기반 피드백이 없는 시간에 따라 변하는 규칙(예: 시뮬레이티드 어닐링의 냉각 스케줄)을 능가할 수 있는가?

주요 결과

• (1+1) EA α에서 A=1.2 및 b=0.85를 사용할 경우, OneMax 문제에서 평균 최적화 시간이 최적의 단항 비편향 블랙박스 알고리즘과 1% 이내로, n=100에서 n=3,000까지의 범위에서 c-값(정규화된 시간)이 0.974~0.996로 나타났다.
• LeadingOnes 문제에서 적응형 알고리즘은 최고의 정적 단항 비편향 블랙박스 알고리즘보다 약 18%의 속도 향상을 보이며, 뚜렷한 성능 향상을 입증했다.
• OneMax 문제에서 적응형 알고리즘은 RLS를 항상 능가하거나 동등하게 유지하며, n=100에서 n=3,000까지의 평균 최적화 시간이 RLS의 최적 성능와 1% 이내였다.
• 최적화 과정 중 돌연변이 확률이 동적으로 조정된다: p₀=1/n에서 출발하여 적합도가 약 n/2에 도달할 무렵 1/2 수준으로 증가한 후, 적합도가 1,332를 초과하면 1로 감소하며, 이는 이론적 최적과 일치한다.
• A 및 b의 다양한 설정에 대해 강건한 성능를 보이며, 모든 테스트 설정에서 RLS 수준의 성능를 거의 달성하고 정적 (1+1) EA(p=1/n)를 능가했다.
• 실험 결과는 성공 기반 곱셈 규칙이 큰 문제 차원(n=3,000)에 잘 스케일링되며, 복잡한 튜닝 없이도 높은 성능를 유지함을 시사한다.