[论文解读] Towards Analyzing Crossover Operators in Evolutionary Search via General Markov Chain Switching Theorem

Yang Yu, Chao Qian+1 more|arXiv (Cornell University)|Nov 3, 2011

Evolutionary Algorithms and Applications参考文献 35被引用 3

一句话总结

本文提出了通用马尔可夫链切换定理（GMCST），这是一种新颖的分析框架，通过将复杂的交叉启用马尔可夫链与更简单、可分析的链进行比较，实现了对进化算法中交叉算子的理论研究。该方法表明，交叉最多会使(2+2)-EA在LeadingOnes和OneMax问题上的运行时间减慢$1/(1-p_c)$倍，但通过智能地、有条件地使用交叉，性能可优于仅使用变异和始终启用交叉的策略，实验结果已验证该结论。

ABSTRACT

Evolutionary algorithms (EAs), simulating the evolution process of natural species, are used to solve optimization problems. Crossover (also called recombination), originated from simulating the chromosome exchange phenomena in zoogamy reproduction, is widely employed in EAs to generate offspring solutions, of which the effectiveness has been examined empirically in applications. However, due to the irregularity of crossover operators and the complicated interactions to mutation, crossover operators are hard to analyze and thus have few theoretical results. Therefore, analyzing crossover not only helps in understanding EAs, but also helps in developing novel techniques for analyzing sophisticated metaheuristic algorithms. In this paper, we derive the General Markov Chain Switching Theorem (GMCST) to facilitate theoretical studies of crossover-enabled EAs. The theorem allows us to analyze the running time of a sophisticated EA from an easy-to-analyze EA. Using this tool, we analyze EAs with several crossover operators on the LeadingOnes and OneMax problems, which are noticeably two well studied problems for mutation-only EAs but with few results for crossover-enabled EAs. We first derive the bounds of running time of the (2+2)-EA with crossover operators; then we study the running time gap between the mutation-only (2:2)-EA and the (2:2)-EA with crossover operators; finally, we develop strategies that apply crossover operators only when necessary, which improve from the mutation-only as well as the crossover-all-the-time (2:2)-EA. The theoretical results are verified by experiments.

研究动机与目标

• 为解决由于交叉算子的不规则性及其与变异和选择的复杂相互作用，导致在进化算法中理论分析交叉算子的挑战。
• 开发一种通用的分析工具，避免直接分析长期马尔可夫链行为，这对交叉启用的EAs而言极为困难。
• 研究交叉对知名基准问题——LeadingOnes和OneMax——运行时间的影响，此前这些影响尚未被充分探索。
• 设计并理论验证自适应交叉策略，仅在有益时应用交叉，从而在性能上优于仅使用变异和始终启用交叉的方法。

提出的方法

• 提出通用马尔可夫链切换定理（GMCST），通过仅分析一步转移行为来比较两个马尔可夫链，避免了对复杂链长期行为的刻画。
• 将进化算法建模为马尔可夫链，并应用GMCST来界定交叉启用的(2+2)-EA在LeadingOnes和OneMax问题上的期望首次 hitting 时间（EFHT）。
• 推导出使用各种交叉算子（如一位交叉和首个差异点交叉）的(2+2)-EA的运行时间上下界。
• 利用GMCST将交叉启用EAs的运行时间与仅使用变异的版本进行比较，确立了最大减慢倍数为$1/(1-p_c)$。
• 设计并分析自适应交叉策略（如M&R1a、M&R1b、M&R2、M&R3），仅在特定条件下应用交叉以提高效率。
• 通过在LeadingOnes和OneMax上的实验验证理论发现，测量不同交叉频率和策略下的EFHT。

实验结果

研究问题

• RQ1 如何在交叉算子行为复杂且不规则的背景下，理论分析使用交叉算子的进化算法的运行时间？
• RQ2 与仅使用变异的版本相比，交叉对(2+2)-EA在LeadingOnes和OneMax问题上的期望运行时间有何定量影响？
• RQ3 我们能否以交叉概率$p_c$为参数，对交叉引入的减慢进行有界分析，且该界是否紧致？
• RQ4 我们能否设计出自适应交叉策略，仅在有益时应用交叉，且其性能是否优于仅使用变异和始终启用交叉的方法？
• RQ5 在相同算法框架下，不同交叉算子（如一位交叉与首个差异点交叉）的性能如何比较？

主要发现

• 使用交叉的(2+2)-EA的运行时间相对于仅使用变异的基线，下界为$\Omega(n\frac{p_c}{1-p_c})$，表明其减慢程度随$p_c$增大而增加。
• 减慢因子最多为$\frac{1}{1-p_c}$，意味着交叉启用的EA的运行时间至多为仅使用变异的EA的$\frac{1}{1-p_c}$倍。
• 实验结果证实了理论界：随着$n$增大，LeadingOnes上的运行时间差距呈线性增长，OneMax上呈对数增长。
• 自适应交叉策略（如M&R2和M&R3）仅在特定条件下应用交叉，其性能优于仅使用变异和始终启用交叉的版本。
• M&R1策略结合了两个条件规则，其性能优于任一规则单独使用，且M&R2（首个差异点交叉）优于M&R1（一位交叉），表明算子设计具有重要影响。
• 实验中，交叉启用EA与仅使用变异EA的EFHT之比，经$1-p_c$缩放后，始终有界于1以内，证实了理论上的上界。