[论文解读] The Benefit of Sex in Noisy Evolutionary Search

Tobias Friedrich, Timo Kötzing+2 more|arXiv (Cornell University)|Feb 10, 2015

Evolution and Genetic Dynamics参考文献 20被引用 6

一句话总结

本文严格证明了在噪声优化环境中，进化算法中的有性重组可提供可证明的优势。通过使用采用基因池重组的紧凑遗传算法（cGA），作者表明，当高斯噪声较大时，cGA 可在多项式时间内优化噪声 OneMax 问题，而仅依赖突变的 μ+1 EA 则无法高效完成此任务，从而证明有性重组对于噪声环境下算法的平稳扩展至关重要。

ABSTRACT

The benefit of sexual recombination is one of the most fundamental questions both in population genetics and evolutionary computation. It is widely believed that recombination helps solving difficult optimization problems. We present the first result, which rigorously proves that it is beneficial to use sexual recombination in an uncertain environment with a noisy fitness function. For this, we model sexual recombination with a simple estimation of distribution algorithm called the Compact Genetic Algorithm (cGA), which we compare with the classical $μ+1$ EA. For a simple noisy fitness function with additive Gaussian posterior noise $\mathcal{N}(0,σ^2)$, we prove that the mutation-only $μ+1$ EA typically cannot handle noise in polynomial time for $σ^2$ large enough while the cGA runs in polynomial time as long as the population size is not too small. This shows that in this uncertain environment sexual recombination is provably beneficial. We observe the same behavior in a small empirical study.

研究动机与目标

• 研究有性重组是否在噪声进化优化中提供可证明的优势。
• 分析在适应度评估中存在加性高斯噪声时，进化算法的可扩展性。
• 确定重组是否能使算法在突变-only 算法失效的噪声环境中实现多项式时间收敛。
• 比较 cGA 和 reRLS 的噪声无关与噪声感知变体在处理不确定性时的性能表现。
• 形式化并评估黑箱优化中噪声方差的‘平稳扩展’概念。

提出的方法

• 研究采用加性高斯噪声 𝒩(0, σ²) 建模噪声适应度，并将仅依赖突变的 μ+1 EA 与使用基因池重组的紧凑遗传算法（cGA）进行比较。
• cGA 通过 K 个个体的群体进行重组来估计等位基因频率，模拟有性繁殖而无需显式交叉。
• 理论分析证明，当 σ² 足够大时，μ+1 EA 无法在多项式时间内优化噪声 OneMax 函数。
• 相反，只要 σ² 受限于 n 的多项式函数且 K 不过小，cGA 就可证明在多项式时间内优化相同问题。
• 通过 100 次运行的中位数和四分位距，对收敛至最优解所需的适应度函数评估次数进行实证评估。
• 测试了无噪声感知的变体（NO-cGA, NO-reRLS），以评估在缺乏噪声方差先验知识下的性能。

实验结果

研究问题

• RQ1 有性重组是否在噪声进化优化中提供可证明的优势？
• RQ2 在高斯噪声下，紧凑遗传算法（cGA）是否能以多项式时间优化噪声 OneMax 问题？
• RQ3 仅依赖突变的 μ+1 EA 是否无法随噪声方差增加而实现平稳扩展？
• RQ4 cGA 和 reRLS 的无噪声感知变体与它们的噪声感知对应物相比表现如何？
• RQ5 重组在黑箱优化中对噪声方差的平稳扩展能力在多大程度上得以实现？

主要发现

• 当噪声方差 σ² 足够大时，μ+1 EA 无法在多项式时间内优化噪声 OneMax 函数，证明其在噪声下不具备平稳扩展能力。
• 只要 σ² 受限于 n 的多项式函数且群体大小 K 不过小，cGA 就可在多项式时间内优化噪声 OneMax 函数。
• 即使在缺乏噪声知识的情况下，cGA 在适应度函数评估次数上仍比重采样局部搜索算法（reRLS）快一个数量级。
• cGA 的无噪声感知变体表现尤为出色，证实即使在无噪声先验信息的情况下，重组依然具有强大能力。
• 在 n=100 且 σ²=√n 的实证结果表明，cGA 及其无噪声感知变体能平稳扩展至噪声和问题规模。
• 在所有测试的噪声水平和问题规模下，cGA 的适应度函数评估次数中位数比 reRLS 低一个数量级。