[논문 리뷰] The 1/5-th Rule with Rollbacks: On Self-Adjustment of the Population Size in the $(1+(λ,λ))$ GA

Anton Bassin, Maxim Buzdalov|arXiv (Cornell University)|2019. 04. 15.

Metaheuristic Optimization Algorithms Research참고 문헌 3인용 수 4

한 줄 요약

이 논문은 (1+(λ,λ)) GA에서 인구 크기 λ를 자동 조정하기 위해 수정된 1/5 규칙을 제안하며, 장기간의 실패 기간 동안 λ 증가 속도를 늦추기 위해 롤백 기법을 도입한다. 이 방법은 원래 규칙이 성능이 열등한 선형 함수(무작위 가중치 부여)와 무작위 MAX-SAT 인스턴스에서 성능을 향상시키지만, OneMax 문제에 대해서는 이론적·실험적으로 선형 런타임을 유지한다.

ABSTRACT

Self-adjustment of parameters can significantly improve the performance of evolutionary algorithms. A notable example is the $(1+(λ,λ))$ genetic algorithm, where the adaptation of the population size helps to achieve the linear runtime on the OneMax problem. However, on problems which interfere with the assumptions behind the self-adjustment procedure, its usage can lead to performance degradation compared to static parameter choices. In particular, the one fifth rule, which guides the adaptation in the example above, is able to raise the population size too fast on problems which are too far away from the perfect fitness-distance correlation. We propose a modification of the one fifth rule in order to have less negative impact on the performance in scenarios when the original rule reduces the performance. Our modification, while still having a good performance on OneMax, both theoretically and in practice, also shows better results on linear functions with random weights and on random satisfiable MAX-SAT instances.

연구 동기 및 목표

• 낮은 피트니스-거리 상관관계를 가지는 문제, 예를 들어 무작위 가중치가 부여된 선형 함수와 무작위 MAX-SAT 인스턴스에서 (1+(λ,λ)) GA의 성능 저하 문제를 해결하기 위해.
• 표준 1/5 규칙이 이러한 문제에서 성능이 떨어지는 이유를 분석하기 위해, 즉 과도하게 공격적인 인구 크기 증가로 인해 발생하는 원인을 규명하기 위해.
• 장기간의 실패 반복 동안 λ 증가 속도를 줄이는 수정된 자동 조정 전략을 개발하기 위해.
• 복잡하고 상관관계가 낮은 문제에서 성능을 햖थ고하면서도 OneMax 문제에서 선형 런타임을 유지하는 것을 보장하기 위해.
• 실시간으로 구현 가능하지는 않지만 최적의 λ 적응 전략의 이론적·실험적 잠재력을 탐색하기 위해.

제안 방법

• 지속적인 실패 반복 수가 임계값을 초과할 경우 λ를 인자로 감소시키는 롤백 메커니즘을 도입하여, 성과가 좋지 않을 경우의 적응 속도를 늦춘다.
• 장기간의 실패 스테이크 동안 λ 증가 속도를 제한하는 방식으로 1/5 규칙을 수정하여, 실제로는 원래 속도의 제곱근 수준으로 증가 속도를 낮춘다.
• OneMax, 무작위 정수 가중치가 부여된 선형 함수(LinIntW), 그리고 심층 해가 심재된 무작위 MAX-SAT 인스턴스에서 실험적 평가를 수행한다.
• 여러 문제 인스턴스에 걸쳐 수정된 알고리즘을 원래 (1+(λ,λ)) GA 및 정적 파rameter 설정(예: λ = n, λ = log n)과 비교한다.
• 실험 데이터로부터 최적의 λ 값을 최적점으로부터 허밍 거리의 함수로 도출하고, 이러한 값으로 성능을 시뮬레이션한다.
• 이론적으로 수정된 알고리즘이 OneMax 문제에서 선형 기대 런타임을 유지함을 증명하며, 원래 (1+(λ,λ)) GA의 증명 구조를 따르는 방식으로 진행한다.

실험 결과

연구 질문

• RQ1 왜 표준 1/5 규칙은 무작위 가중치가 부여된 선형 함수와 무작위 MAX-SAT 인스턴스에서 λ 자동 조정 성능을 저하시키는가?
• RQ2 롤백 메커니즘이 있는 수정된 1/5 규칙은 장기적인 실패 기간 동안 λ 증가 속도를 줄여 비-OneMax 문제에서의 성능을 향상시킬 수 있는가?
• RQ3 수정된 알고리즘은 OneMax 문제에서 선형 런타임을 유지하면서도 다른 벤치마크 문제에서 더 나은 성능을 내는가?
• RQ4 최적의 λ 값(실험적으로 유도된 값)을 사용할 경우 (1+(λ,λ)) GA의 성능는 적응 전략 대비 어떻게 다를까?
• RQ5 최적의 λ 적응 전략을 사용하더라도 (1+(λ,λ)) GA 프레임워크 내에서 여전히 향상 여지가 있는가?

주요 결과

• 롤백 기반 수정된 1/5 규칙은 장기간의 실패 스테이크 동안 λ 증가 속도를 줄여 원래 속도의 제곱근 수준으로 효과적으로 적응 속도를 느리게 한다.
• 무작위 정수 가중치가 부여된 선형 함수(LinIntW)에서 수정된 알고리즘은 원래 (1+(λ,λ)) GA보다 일정 요인만큼 성능이 뛰어나며, 이는 이론적·실험적 모두에서 확인되었다.
• 심층 해가 심재된 무작위 MAX-SAT 인스턴스와 로그 클라우즈 밀도 조건에서 수정된 알고리즘은 원래 버전 대비 일관된 성능 향상을 보였다.
• 수정된 알고리즘은 실험적으로나 이론적으로나 OneMax 문제에서 선형 기대 런타임을 유지함을 확인하여 핵심 효율성이 그대로 유지됨을 입증했다.
• 최적의 λ 값(허밍 거리 기반으로 유도된 값)을 사용할 경우, (1+(λ,λ)) GA는 테스트된 모든 문제, 특히 어려운 LinInt1000 케이스에서 (1+1) EA보다 더 나은 성능을 달성했다.
• 실험 결과는 자동 조정 전략의 추가 개선이 현재 프레임워크 내에서도 (1+1) EA의 런타임 이하로 이어질 수 있음을 시사한다.