[论文解读] Convergence Properties of Two (μ + λ) Evolutionary Algorithms On OneMax and Royal Roads Test Functions

Aram Ter-Sarkisov, Stephen Marsland|arXiv (Cornell University)|Aug 20, 2011

Metaheuristic Optimization Algorithms Research参考文献 8被引用 5

一句话总结

本文分析了两种（$\mu+\lambda$）进化算法在OneMax和Royal Roads测试函数上的收敛特性——分别采用k-Bit-Swap重组算子和随机局部搜索（RLS）变体。推导了预期收敛时间的理论边界，表明在Royal Roads问题上种群规模能提升性能，但在OneMax上则不一致；计算结果验证了在均匀分布和泊松分布精英个体情况下的渐近趋势。

ABSTRACT

We present a number of bounds on convergence time for two elitist population-based Evolutionary Algorithms using a recombination operator k-Bit-Swap and a mainstream Randomized Local Search algorithm. We study the effect of distribution of elite species and population size.

研究动机与目标

• 推导使用k-Bit-Swap和RLS的精英（$\mu+\lambda$）EAs在OneMax和Royal Roads函数上的预期收敛时间的理论边界。
• 研究种群规模（$\mu$）、重组池规模（$\lambda$）以及精英个体分布对收敛的影响。
• 在精英个体服从均匀分布和泊松分布的条件下，将理论预期与计算结果进行比较。
• 探讨基于种群的进化是否在不同适应度景观上始终提升性能。
• 识别种群规模在何种条件下能增强收敛性，特别是在deceptive或崎岖问题（如Royal Roads）中。

提出的方法

• 使用漂移分析和势函数推导精英EAs首次 hitting 时间的边界。
• 通过选择精英配对的概率以及通过1-Bit-Swap或单比特翻转（RLS）生成更优后代的概率来建模收敛过程。
• 采用锦标赛选择从大小为$\mu$的种群中选择$\lambda$个父代。
• 推导出涉及精英数量和适应度差异求和的复杂解析表达式，用于预期收敛时间$\mathbf{E}\tau$。
• 对无法闭式表达的项采用计算估计，使用Uniform(1/$\mu$)和Poisson(1)分布表示精英个体。
• 通过每组参数执行50次独立运行进行验证，测量2000代内的平均优化时间$\tilde{\tau}$。

实验结果

研究问题

• RQ1 在OneMax问题上，增加种群规模（$\mu$）是否总是能改善（$\mu+\lambda$）EAs的收敛时间？
• RQ2 不同的精英个体分布（均匀分布与泊松分布）如何影响收敛时间的边界？
• RQ3 种群规模的优势在不同适应度景观（如OneMax与Royal Roads）之间是否一致？
• RQ4 能否为涉及精英配置求和的复杂表达式推导出预期收敛时间的理论边界，并通过计算进行验证？
• RQ5 在这些测试函数上，k-Bit-Swap算子与RLS在收敛速度和种群效率方面相比如何？

主要发现

• 在OneMax问题上，增加种群规模并不总是能提升性能；其优势不稳定且无法保证。
• 在Royal Roads问题上，增加种群规模能持续改善收敛性，理论与计算结果均显示明确的正向趋势。
• 对于n=1000、$\mu=\lambda=10$的OneMax问题，k-Bit-Swap在算法1下的理论预期收敛时间$\mathbf{E}\tau^{R}_{\text{Algorithm1}}$估计为1616.44，计算平均值$\tilde{\tau}$为3807。
• 对于n=128、$\mu=\lambda=30$的Royal Roads问题，理论值$\mathbf{E}\tau^{P}_{\text{Algorithm2}}$为871.11，计算平均值$\tilde{\tau}$为1505。
• k-Bit-Swap算法在理论与计算结果中均持续优于RLS，尤其在Royal Roads问题上表现更优。
• 理论边界复杂且缺乏闭式表达，需依赖计算估计；观察到渐近趋势，但更紧致的边界仍是开放挑战。