[论文解读] A Tight Runtime Analysis of the $(1+(\lambda, \lambda))$ Genetic Algorithm on OneMax

Benjamin Doerr, Carola Doerr|arXiv (Cornell University)|Jun 19, 2015

Metaheuristic Optimization Algorithms Research参考文献 17被引用 5

一句话总结

本文针对 OneMax 问题，对 (1+(λ, λ)) 遗传算法进行了紧致的运行时间分析，表明对于所有 λ ∈ [1..n]，其期望优化时间为 Θ(max{n log n / λ, nλ log log λ / log λ})。主要贡献在于建立了匹配的上下界，揭示出当 λ = Θ(√(log n log log n / log log log n)) 时，可实现最优运行时间 Θ(n√(log n log log log n / log log n))，显著优于先前的界限，并表明交叉驱动的加速源于并行生成后代过程中罕见但高适应度后代的出现。

ABSTRACT

Understanding how crossover works is still one of the big challenges in evolutionary computation research, and making our understanding precise and proven by mathematical means might be an even bigger one. As one of few examples where crossover provably is useful, the $(1+(\lambda, \lambda))$ Genetic Algorithm (GA) was proposed recently in [Doerr, Doerr, Ebel: TCS 2015]. Using the fitness level method, the expected optimization time on general OneMax functions was analyzed and a $O(\max\{n\log(n)/\lambda, \lambda n\})$ bound was proven for any offspring population size $\lambda \in [1..n]$. We improve this work in several ways, leading to sharper bounds and a better understanding of how the use of crossover speeds up the runtime in this algorithm. We first improve the upper bound on the runtime to $O(\max\{n\log(n)/\lambda, n\lambda \log\log(\lambda)/\log(\lambda)\})$. This improvement is made possible from observing that in the parallel generation of $\lambda$ offspring via crossover (but not mutation), the best of these often is better than the expected value, and hence several fitness levels can be gained in one iteration. We then present the first lower bound for this problem. It matches our upper bound for all values of $\lambda$. This allows to determine the asymptotically optimal value for the population size. It is $\lambda = \Theta(\sqrt{\log(n)\log\log(n)/\log\log\log(n)})$, which gives an optimization time of $\Theta(n \sqrt{\log(n)\log\log\log(n)/\log\log(n)})$. Hence the improved runtime analysis gives a better runtime guarantee along with a better suggestion for the parameter $\lambda$. We finally give a tail bound for the upper tail of the runtime distribution, which shows that the actual runtime exceeds our runtime guarantee by a factor of $(1+\delta)$ with probability $O((n/\lambda^2)^{-\delta})$ only.

研究动机与目标

• 为 (1+(λ, λ)) GA 在 OneMax 函数上的运行时间提供紧致、精确的分析，改进先前松散的上界。
• 在 OneMax 上首次建立 (1+(λ, λ)) GA 的匹配下界，从而能够识别出渐近最优的种群大小 λ。
• 揭示该算法中交叉操作实现加速的机制，特别是并行生成后代过程中异常高适应度后代的作用。
• 推导出一个强尾部界限，表明实际运行时间超过期望值 (1+δ) 倍的概率为 O((n/λ²)⁻ᵟ)，从而确保高概率性能保证。

提出的方法

• 采用适应度层级方法与滴定分析，以界定达到最优解所需的期望代数。
• 使用 Chernoff 不等式分析交叉后代中新 1 比特的分布，表明以高概率，每只后代的新 1 比特数量集中在均值附近。
• 引入对交叉阶段的精细化分析，证明以非可忽略的概率，λ 只后代中至少有一只的 1 比特数显著超过预期，从而实现在单轮迭代中实现多个适应度层级的提升。
• 结合加法滴定定理与适应度提升的概率界，推导出期望优化时间的下界。
• 通过观察 λ 只并行后代中的最佳个体通常超过期望适应度提升，从而收紧上界，实现更快收敛。
• 利用集中不等式证明运行时间分布的尾部界限，表明运行时间与期望值出现大幅偏离的可能性极低。

实验结果

研究问题

• RQ1 在 OneMax 函数上，(1+(λ, λ)) GA 的精确期望优化时间是多少？其如何依赖于后代种群大小 λ？
• RQ2 能否在 OneMax 上为 (1+(λ, λ)) GA 建立匹配的下界？该下界是否与改进后的上界一致？
• RQ3 使期望优化时间最小化的 λ 的渐近最优值是什么？
• RQ4 该 (1+(λ, λ)) GA 的性能如何依赖于 λ 只并行交叉后代中最佳个体的适应度？为何这会导致超常数级别的加速？
• RQ5 实际运行时间超过期望值 (1+δ) 倍的概率是多少？该概率如何随 λ 衰减？

主要发现

• 在 OneMax 上，(1+(λ, λ)) GA 的期望优化时间为 Θ(max{n log n / λ, nλ log log λ / log λ})，对所有 λ ∈ [1..n] 成立，提供了紧致的运行时间保证。
• 首次在 OneMax 上建立了 (1+(λ, λ)) GA 的匹配下界，证实了上界在所有 λ 下的渐近紧致性。
• 渐近最优的后代种群大小为 λ = Θ(√(log n log log n / log log log n))，可使期望优化时间最小化。
• 最优的期望优化时间为 Θ(n√(log n log log log n / log log n))，相比先前最优界 O(n√log n) 实现了超常数因子的改进。
• 运行时间分布表现出强烈的集中性：实际运行时间超过期望值 (1+δ) 倍的概率至多为 O((n/λ²)⁻ᵟ)，表明运行时间估计具有高度可靠性。
• 在 (1+(λ, λ)) GA 中，加速主要源于交叉阶段中存在一个或多个异常高适应度后代，而非突变阶段，凸显了交叉在加速收敛中的关键作用。