[논문 리뷰] Lazy Parameter Tuning and Control: Choosing All Parameters Randomly From a Power-Law Distribution

Denis Antipov, Maxim Buzdalov외 1명|arXiv (Cornell University)|2021. 04. 14.

Evolutionary Algorithms and Applications인용 수 7

한 줄 요약

이 논문은 매 반복에서 인구 크기, 돌연변이 비율, 교차 비중과 같은 핵심 파라미터를 거듭제곱 분포에서 무작위로 샘플링함으로써 진화 알고리즘에 대한 레이지 파라미터 튜닝 전략을 제안한다. 이 접근법이 단일 최적화 문제인 OneMax에서 渐진적으로 최적의 런타임을 달성하고, 특히 상수 건너뛰기 크기를 가진 다중 최적화 문제인 점프 함수에서 가장 잘 알려진 정적 파라미터 설정을 능가함을 이론적으로도 실험적으로도 입증한다.

ABSTRACT

Most evolutionary algorithms have multiple parameters and their values drastically affect the performance. Due to the often complicated interplay of the parameters, setting these values right for a particular problem (parameter tuning) is a challenging task. This task becomes even more complicated when the optimal parameter values change significantly during the run of the algorithm since then a dynamic parameter choice (parameter control) is necessary. In this work, we propose a lazy but effective solution, namely choosing all parameter values (where this makes sense) in each iteration randomly from a suitably scaled power-law distribution. To demonstrate the effectiveness of this approach, we perform runtime analyses of the $(1+(λ,λ))$ genetic algorithm with all three parameters chosen in this manner. We show that this algorithm on the one hand can imitate simple hill-climbers like the $(1+1)$ EA, giving the same asymptotic runtime on problems like OneMax, LeadingOnes, or Minimum Spanning Tree. On the other hand, this algorithm is also very efficient on jump functions, where the best static parameters are very different from those necessary to optimize simple problems. We prove a performance guarantee that is comparable to the best performance known for static parameters. For the most interesting case that the jump size $k$ is constant, we prove that our performance is asymptotically better than what can be obtained with any static parameter choice. We complement our theoretical results with a rigorous empirical study confirming what the asymptotic runtime results suggest.

연구 동기 및 목표

• 진화 알고리즘에서 최적의 파라미터 값이 문제 간 및 최적화 과정 내에서 크게 달라지는 문제를 해결하기 위해.
• 문제에 특화된 파라미터 캘리브레이션을 피할 수 있는 단순한, 한 가지 솔루션을 제공하기 위해.
• 거듭제곱 분포를 통해 무작위로 파라미터를 선택하는 것이 정교하게 튜닝된 정적 파라미터 설정의 성능을 따라하거나 능가할 수 있는지 조사하기 위해.
• 일반 최적화 문제(예: OneMax)와 다중 최적화 문제(예: 점프 함수)에서 이 방법의 효과성을 평가하기 위해.

제안 방법

• 각 반복에서 인구 크기 $\lambda$와 곱 $d = pcn$(여기서 $p$는 돌연변이 비율, $c$는 교차 비중)를 각각 $\beta_\lambda = 2 + \varepsilon$ 및 $\beta_d = 1 + \varepsilon'$인 무한대 범위의 거듭제곱 분포에서 무작위로 샘플링한다.
• 매 반복에서 $p = c = \sqrt{d/n}$로 설정하여 $pcn = d$의 관계를 유지하고 일관된 파라미터 스케일링을 보장한다.
• 수학적 런타임 분석을 통해 OneMax, LeadingOnes, 최소 스패닝 트리 및 점프 함수에서 渐진적 성능 보장을 증명한다.
• 다양한 문제 크기와 점프 크기에서 $(1+(\lambda,\lambda))$ GA에 대한 엄격한 실험을 수행하여 정적 파라미터 설정 및 $(1+1)$ EA와 비교한다.
• 실험에서 관찰된 성능 차이의 유의성을 검증하기 위해 통계적 검정(스테이던트의 t-검정 및 윌코크슨 순위합 검정)을 적용한다.
• 문제 크기 $n=128$ 및 $k \in \{3,6\}$에서 파라미터 스윕을 통해 $\beta_\lambda$ 및 $\beta_d$의 거듭제곱 분포 지수에 대한 성능 민감도를 분석한다.

실험 결과

연구 질문

• RQ1 거듭제곱 분포에서 무작위로 파라미터를 선택하는 것이 단일 최적화 및 다중 최적화 문제에서 가장 잘 알려진 정적 파라미터 설정의 성능과 비교하여 유사하거나 뛰어난 성능을 달성할 수 있는가?
• RQ2 특히 최적의 파라미터 값이 실행 중에 변화하는 경우, 제안된 방법이 OneMax 및 점프 함수에서 $(1+1)$ EA를 능가하는가?
• RQ3 알고리즘 성능이 $\lambda$ 및 $d$에 대한 거듭제곱 분포 지수의 선택에 얼마나 민감한가?
• RQ4 상수 점프 크기 $k$를 가진 점프 함수에서 이 레이지 파라미터 튜닝 접근법이 정적 파라미터 선택보다 渐진적 런타임 향상을 달성할 수 있는가?
• RQ5 성능 향상은 무거운 尾 꼬리 분포의 특성 때문인지, 아니면 $(1+(\lambda,\lambda))$ GA의 특정 메커니즘 때문인가?

주요 결과

• 제안된 알고리즘은 OneMax, LeadingOnes 및 최소 스패닝 트리와 같은 단일 최적화 문제에서 $(1+1)$ EA와 동일한 渐진적 런타임을 달성한다. 이는 랜덤 파라미터를 사용하고 있음에도 불구하고 성립한다.
• 상수 점프 크기 $k$를 가진 점프 함수에서, 알고리즘의 런타임은 어떤 정적 파라미터 설정보다 渐진적으로 우월하며, 표준 파라미터 설정 대비 초초기적 우위를 입증한다.
• 점프 함수에서 $k \geq 3$일 경우, 기대 런타임은 $e^{O(k)}(n/k)^{(1+\varepsilon)k/2}$이며, 이는 가장 잘 알려진 정적 파라미터 성능과 유사하며, 표준 $(1+1)$ EA의 $e^n$ 런타임보다 뚜렷이 우수하다.
• 실험 결과는 매우 유의미한 성능 차이를 보이며, 통계 검정의 모든 $p$-값이 $10^{-10}$ 이하였고, 이는 중량 꼬리를 가진 $(1+(\lambda,\lambda))$ GA가 $(1+1)$ EA를 뛰어넘는다는 것을 확인한다.
• 파라미터 민감도 분석 결과, $\beta_\lambda$ 값이 클수록 성능이 악화되며, 특히 $k$가 클수록 더욱 두드러진다. $\beta_{pc}$는 더 작은 영향을 미치지만 일관된 경향이 있으며, $\beta_{pc} = 1.0$일 때 약간 더 좋은 결과를 얻는다.
• 알고리즘은 파라미터 선택에 대해 강건하다: 무한대 범위의 거듭제곱 분포와 최소한의 설계 입력 조건에도 near-optimal 성능을 달성하며, 진정으로 파라미터 없는 접근법임을 시사한다.