[论文解读] Optimal Parameter Choices Through Self-Adjustment: Applying the 1/5-th Rule in Discrete Settings

Benjamin Doerr, Carola Doerr|arXiv (Cornell University)|Apr 13, 2015

Metaheuristic Optimization Algorithms Research参考文献 20被引用 12

一句话总结

本文提出并分析了一种在离散优化中使用五分之一成功规则的自适应种群大小机制，应用于 $(1+(\lambda,\lambda))$ 遗传算法。通过根据成功率动态调整 $\lambda$——若成功率超过 1/5 则增加，否则减少——该算法在 OneMax 上实现了线性期望优化时间，优于任何静态 $\lambda$，并在所有自适应与静态参数选择中证明了渐近最优性。

ABSTRACT

While evolutionary algorithms are known to be very successful for a broad range of applications, the algorithm designer is often left with many algorithmic choices, for example, the size of the population, the mutation rates, and the crossover rates of the algorithm. These parameters are known to have a crucial influence on the optimization time, and thus need to be chosen carefully, a task that often requires substantial efforts. Moreover, the optimal parameters can change during the optimization process. It is therefore of great interest to design mechanisms that dynamically choose best-possible parameters. An example for such an update mechanism is the one-fifth success rule for step-size adaption in evolutionary strategies. While in continuous domains this principle is well understood also from a mathematical point of view, no comparable theory is available for problems in discrete domains. In this work we show that the one-fifth success rule can be effective also in discrete settings. We regard the $(1+(λ,λ))$~GA proposed in [Doerr/Doerr/Ebel: From black-box complexity to designing new genetic algorithms, TCS 2015]. We prove that if its population size is chosen according to the one-fifth success rule then the expected optimization time on extsc{OneMax} is linear. This is better than what \emph{any} static population size $λ$ can achieve and is asymptotically optimal also among all adaptive parameter choices.

研究动机与目标

• 为解决在进化算法中选择最优参数的挑战，特别是在静态参数选择常导致次优性能的离散设置中。
• 研究自适应参数控制机制（如五分之一成功规则）是否能在离散优化中实现优于静态参数设置的可证明性能。
• 证明自适应参数选择可在离散域中实现渐近最优的运行时间，将五分之一规则的理论理解从连续空间扩展至离散领域。
• 表明当五分之一成功规则应用于 $(1+(\lambda,\lambda))$ GA 的种群大小时，可在广义 OneMax 函数上实现线性期望优化时间。

提出的方法

• 将原本用于连续领域步长控制的五分之一成功规则，通过利用后代在提升适应度方面的成功率，将其适配至离散设置，以指导种群大小 $\lambda$ 的调整。
• 采用 $(1+(\lambda,\lambda))$ GA 框架，该框架在每代使用 $\lambda$ 个后代，包含变异、交叉和选择阶段。
• 在每次迭代后动态调整 $\lambda$：若成功率 > 1/5 则增加，若 < 1/5 则减少，以维持 1/5 的目标成功概率。
• 使用滴落分析和 Yao 的最小最大原理分析期望优化时间，以建立运行时间界限。
• 将自适应算法的性能与静态 $\lambda$ 选择及基于适应度的方案进行比较，证明其在期望运行时间上的优越性。
• 证明自适应机制实现了线性期望运行时间，这在所有可能的参数选择（静态或自适应）中均为最优。

实验结果

研究问题

• RQ1 五分之一成功规则是否能在尚未理论建立的离散优化设置中有效应用？
• RQ2 在 $(1+(\lambda,\lambda))$ GA 中自适应调整种群大小 $\lambda$ 是否能实现优于任何静态 $\lambda$ 的期望优化时间？
• RQ3 该自适应机制在 OneMax 上的期望运行时间是否渐近最优？
• RQ4 一种不依赖问题特定知识的参数更新规则，是否仍能在离散进化算法中实现最优性能？

主要发现

• 采用五分之一成功规则的自适应 $(1+(\lambda,\lambda))$ GA 在广义 OneMax 函数上实现了线性期望优化时间。
• 该线性运行时间是渐近最优的，意味着任何其他静态或自适应参数选择都无法实现显著更小的期望运行时间。
• 自适应算法的性能优于任何静态种群大小 $\lambda$，其优势因子为 $\Theta(\sqrt{\log n \cdot \log\log\log n / \log\log n})$。
• 五分之一成功规则动态选择的参数值，能紧密跟踪优化过程中各阶段的理论最优种群大小。
• 该结果表明，自适应参数选择在离散优化中可被严格证明具有优势，将五分之一规则的适用范围从连续领域扩展至离散领域。
• 分析证实，即使与基于适应度的参数选择相比，该自适应机制仍为最优，因为后者无法实现每函数评估的常数平均适应度增益。