[논문 리뷰] The 1/5-th Rule with Rollbacks: On Self-Adjustment of the Population Size in the $(1+(\lambda,\lambda))$ GA

Anton Bassin, Maxim Buzdalov|arXiv (Cornell University)|2019. 04. 15.

Metaheuristic Optimization Algorithms Research참고 문헌 8인용 수 4

한 줄 요약

이 논문은 (1 + (λ, λ)) GA에서 인구 크기 λ를 자가조정하기 위한 1/5 규칙의 수정 버전을 제안하며, 장기적인 실패 단계 동안 λ 조정 속도를 늦추기 위해 롤백 기법을 도입한다. 수정된 규칙은 원래 규칙이 성능을 떨어뜨리는 선형 함수(무작위 가중치)와 임의의 MAX-SAT 인스턴스에서 성능을 향상시키지만, OneMax 문제에 대해서는 이론적·실험적으로 선형 런타임을 유지한다.

ABSTRACT

Self-adjustment of parameters can significantly improve the performance of evolutionary algorithms. A notable example is the $(1+(\lambda,\lambda))$ genetic algorithm, where the adaptation of the population size helps to achieve the linear runtime on the OneMax problem. However, on problems which interfere with the assumptions behind the self-adjustment procedure, its usage can lead to performance degradation compared to static parameter choices. In particular, the one fifth rule, which guides the adaptation in the example above, is able to raise the population size too fast on problems which are too far away from the perfect fitness-distance correlation. We propose a modification of the one fifth rule in order to have less negative impact on the performance in scenarios when the original rule reduces the performance. Our modification, while still having a good performance on OneMax, both theoretically and in practice, also shows better results on linear functions with random weights and on random satisfiable MAX-SAT instances.

연구 동기 및 목표

• 낮은 피트니스-거리 상관관계를 가진 문제에서 원래 1/5 규칙이 λ를 너무 빨리 조정함으로써 성능 저하가 발생하는 문제를 해결하기 위해.
• 피트니스와 최적점으로부터의 거리 간 상관관계가 낮은 상황에서 표준 자기조정 메커니즘이 가지는 한계를 조사하기 위해.
• 연속적인 실패가 반복되는 동안 λ 성장 속도를 늦추기 위한 수정된 적응 규칙을 제안하기 위해.
• 수정된 규칙이 OneMax 문제에서 이론적·실험적으로 선형 런타임 보장을 유지하면서도 더 복잡하고 현실적인 문제에서의 성능을 향상시키는지 평가하기 위해.
• 최적의 λ 선택이 향후 자기조정 전략의 기준으로서 이론적·실험적 잠재력을 탐색하기 위해.

제안 방법

• 장기적인 실패 단계 동안 λ 적응 속도를 낮추기 위해 1/5 규칙에 롤백 메커니즘을 도입하기 위해.
• 적응 단계에서 승수 인자 F를 조정하여 다수의 실패 이후 λ 증가량을 축소시키는 방식으로 표준 1/5 규칙을 수정하기 위해.
• 수정된 적응 로직 적용: U−1번 연속 실패 후, λ는 기존의 F가 아닌 F^(1/(U−1)) 배로 증가시키며, 이는 실제로 적응 속도를 낮춘다.
• 수정된 규칙을 (1 + (λ, λ)) GA에 구현하고 OneMax, LinIntW, 그리고 임의의 MAX-SAT와 같은 벤치마크 문제에서 원래 버전과 비교하기 위해.
• 다양한 문제 유형에서 피트니스 평가 횟수를 평가하기 위해 n = 1000개의 인스턴스에서 실험 수행하기 위해.
• 실험 데이터로부터 최적의 λ 값을 최적점으로부터 해밍 거리의 함수로 유도하고, 비교를 위해 가상의 '최적 외삽' (1 + (λ, λ)) GA를 시뮬레이션하기 위해.

실험 결과

연구 질문

• RQ1 원래 1/5 규칙은 피트니스-거리 상관관계가 낮은 문제, 예를 들어 무작위 가중치를 가진 선형 함수나 심층식이 있는 임의의 MAX-SAT에서 성능 저하를 유발하는가?
• RQ2 롤백 메커니즘을 갖춘 수정된 1/5 규칙은 실패 시퀀스 동안 λ 적응 속도를 줄여 비-OneMax 문제에서의 성능을 향상시킬 수 있는가?
• RQ3 수정된 규칙은 이론적으로나 실험적으로나 OneMax에서 선형 런타임 보장을 유지하는가?
• RQ4 수정된 (1 + (λ, λ)) GA는 다양한 벤치마크 문제에서 원래 버전과 최적 설정 버전과 비교해 어떻게 성능을 내는가?
• RQ5 현재 자기조정 메커니즘과 최적의 λ 적응 전략 사이에 여전히 성능 격차가 존재하는가? 이는 향후 개선의 여지를 시사하는가?

주요 결과

• 제안된 롤백 기반 수정된 1/5 규칙은 무작위 정수 가중치를 가진 선형 함수(LinInt2, LinInt5)와 로그 체계의 절점 밀도를 가진 임의의 MAX-SAT 인스턴스에서 원래 (1 + (λ, λ)) GA보다 성능이 뛰어나며, 성능 향상을 이룬다.
• OneMax 문제에서는 이론적으로나 실험적으로나 선형 런타임을 유지하며, 원래 버전 대비 약 10% 성능 저하만 발생시킨다.
• 실험 데이터에서 해밍 거리 기반으로 유도된 최적의 λ 값을 사용하는 가상의 '최적 외삽' (1 + (λ, λ)) GA는 모든 테스트 문제에서 모든 자기조정 버전, 포함해 제안된 버전보다 뛰어난 성능을 기록한다.
• LinInt1000(무작위 가중치) 문제에서 수정된 알고리즘은 원래 (1 + (λ, λ)) GA의 15,420.16 ± 4281.11에 비해 피트니스 평가 횟수를 10,994.36 ± 2330.01로 줄였다. 이는 뚜렷한 향상을 의미한다.
• 결과는 현재 자기조정 전략이 최적임을 넘어서지 못함을 시사하며, 심지어 가장 성능이 좋은 자기조정 버전조차도 최적 설정 (1 + (λ, λ)) GA의 성능에 못 미친다.
• 이 연구는 현재 자기조정 메커니즘과 최적 λ 적응의 이론적 잠재력 사이에 여전히 상당한 격차가 존재함을 확인하며, 향후 알고리즘 개선을 위한 여지를 시사한다.