[논문 리뷰] Towards Analyzing Crossover Operators in Evolutionary Search via General Markov Chain Switching Theorem

Yang Yu, Chao Qian외 1명|arXiv (Cornell University)|2011. 11. 03.

Evolutionary Algorithms and Applications참고 문헌 35인용 수 3

한 줄 요약

이 논문은 복잡한 교차 연산자(enabled) 마르코프 체인을 더 단순하고 분석 가능한 체인과 비교함으로써 진화 알고리즘 내 교차 연산자의 이론적 분석을 가능하게 하는 새로운 분석 프레임워크인 일반 마르코프 체인 전환 정리(GMCST)를 제안한다. 이 방법은 (2+2)-EA가 LeadingOnes 및 OneMax 문제에서 교차 연산으로 인해 최대 $1/(1-p_c)$ 배의 속도 저하를 겪을 수 있음을 드러내며, 지능적이고 조건부인 교차 연산 사용이 변이 전용 및 항상 켜진 교차 연산 전략보다 성능을 향상시킴을 보여준다. 실험적으로도 이 결과는 확인되었다.

ABSTRACT

Evolutionary algorithms (EAs), simulating the evolution process of natural species, are used to solve optimization problems. Crossover (also called recombination), originated from simulating the chromosome exchange phenomena in zoogamy reproduction, is widely employed in EAs to generate offspring solutions, of which the effectiveness has been examined empirically in applications. However, due to the irregularity of crossover operators and the complicated interactions to mutation, crossover operators are hard to analyze and thus have few theoretical results. Therefore, analyzing crossover not only helps in understanding EAs, but also helps in developing novel techniques for analyzing sophisticated metaheuristic algorithms. In this paper, we derive the General Markov Chain Switching Theorem (GMCST) to facilitate theoretical studies of crossover-enabled EAs. The theorem allows us to analyze the running time of a sophisticated EA from an easy-to-analyze EA. Using this tool, we analyze EAs with several crossover operators on the LeadingOnes and OneMax problems, which are noticeably two well studied problems for mutation-only EAs but with few results for crossover-enabled EAs. We first derive the bounds of running time of the (2+2)-EA with crossover operators; then we study the running time gap between the mutation-only (2:2)-EA and the (2:2)-EA with crossover operators; finally, we develop strategies that apply crossover operators only when necessary, which improve from the mutation-only as well as the crossover-all-the-time (2:2)-EA. The theoretical results are verified by experiments.

연구 동기 및 목표

• 교차 연산자가 변이 및 선택과의 복잡한 상호작용으로 인해 비정규적임으로써 진화 알고리즘 내 교차 연산자 분석의 이론적 과제를 해결하기 위해.
• 교차 연산이 포함된 EAs의 장기적 마르코프 체인 행동을 직접 분석하는 데 어려움이 있음을 고려해, 장기적 행동을 특성화할 필요 없이 일반적인 분석 도구를 개발하기 위해.
• 기존에 탐색이 부족했던 잘 알려진 벤치마크 문제인 LeadingOnes 및 OneMax 문제에서 교차 연산의 실행 시간에 미치는 영향을 연구하기 위해.
• 유익한 경우에만 교차 연산을 적용하는 적응형 교차 전략을 설계하고, 이들이 변이 전용 및 항상 케이블인 교차 연산 전략보다 뛰어난 성능을 보임을 이론적으로 검증하기 위해.

제안 방법

• 장기적 행동을 특성화할 필요 없이 한 단계 전이 행동만 분석함으로써 두 마르코프 체인 간의 비교를 가능하게 하는 일반 마르코프 체인 전환 정리(GMCST)를 제안함.
• 진화 알고리즘을 마르코프 체인으로 모델링하고, GMCST를 적용하여 LeadingOnes 및 OneMax 문제에서 교차 연산이 포함된 (2+2)-EA의 기대 첫 번째 도달 시간(EFHT)을 유계함.
• 일반 마르코프 체인 전환 정리(GMCST)를 활용해 다양한 교차 연산자(예: 1비트 및 첫 번째 차이점 교차)를 사용한 (2+2)-EA의 실행 시간에 대한 상한 및 하한을 유도함.
• GMCST를 사용해 교차 연산이 포함된 EAs의 실행 시간을 변이 전용 대안과 비교함으로써, 최대 $1/(1-p_c)$ 배의 속도 저하를 다항 인자로 확립함.
• 특정 조건에서만 교차 연산을 적용하는 적응형 교차 전략(예: M&R1a, M&R1b, M&R2, M&R3)을 설계하고 효율성 향상을 분석함.
• LeadingOnes 및 OneMax 문제에서 이론적 결과를 실험적으로 검증함으로써, 다양한 교차 빈도 및 전략 하에서 EFHT를 측정함.

실험 결과

연구 질문

• RQ1 교차 연산자가 복잡하고 비정규적인 행동을 보임으로써, 어떻게 이들의 실행 시간을 이론적으로 분석할 수 있는가?
• RQ2 교차 연산자가 (2+2)-EA의 실행 시간에 미치는 정량적 영향은, 변이 전용 변형과 비교했을 때 LeadingOnes 및 OneMax 문제에서 어떻게 되는가?
• RQ3 교차 확률 $p_c$ 에 따라 교차 연산이 유도하는 속도 저하를 유계로 표현할 수 있으며, 이 경계는 날카로운가?
• RQ4 유익한 경우에만 교차 연산을 적용하는 적응형 전략을 설계할 수 있으며, 이러한 전략은 변이 전용 및 항상 케이블인 교차 연산 전략보다 뛰어난 성능을 보일 수 있는가?
• RQ5 동일한 알고리즘 프레임워크 하에서, 다양한 교차 연산자(예: 1비트 대 첫 번째 차이점 교차)의 성능는 어떻게 비교되는가?

주요 결과

• 교차 연산이 포함된 (2+2)-EA의 실행 시간은 변이 전용 기준선 대비 $\Omega(n\frac{p_c}{1-p_c})$ 이상으로 유계지며, 이는 $p_c$ 가 증가할수록 속도 저하가 증가함을 시사한다.
• 속도 저하 요소는 최대 $\frac{1}{1-p_c}$ 이며, 이는 교차 연산이 포함된 EA가 변이 전용 EA의 최대 $\frac{1}{1-p_c}$ 배의 실행 시간을 소요한다는 의미이다.
• 실험 결과는 이론적 경계를 확인한다: $n$ 이 증가함에 따라 LeadingOnes에서는 실행 시간 격차가 선형적으로 증가하고, OneMax에서는 로그적으로 증가한다.
• 특정 조건에서만 교차 연산을 적용하는 적응형 교차 전략(M&R2 및 M&R3)은 변이 전용 및 항상 케이블인 교차 연산 버전보다 뛰어난 성능을 보인다.
• 두 가지 조건부 규칙를 조합한 M&R1 전략은 각각의 규칙 단독보다 더 우수한 성능을 보이며, M&R2(첫 번째 차이점 교차)는 M&R1(1비트 교차)보다 성능이 뛰어나, 교차 연산자 설계의 중요성을 시사한다.
• 실험에서 교차 연산이 포함된 EA와 변이 전용 EA의 EFHT 비율을 $1-p_c$ 로 스케일링하면, 이 비율이 항상 1 이하로 유계로 유지되며, 이는 이론적 상한 경계가 확인됨을 의미한다.