[论文解读] The 1/5-th Rule with Rollbacks: On Self-Adjustment of the Population Size in the $(1+(\lambda,\lambda))$ GA

Anton Bassin, Maxim Buzdalov|arXiv (Cornell University)|Apr 15, 2019

Metaheuristic Optimization Algorithms Research参考文献 8被引用 4

一句话总结

本文提出了一种改进的1/5规则，用于在(1 + (λ, λ)) GA中自适应调整种群大小λ，引入回滚机制以在长时间失败阶段减缓λ的适应速度。该改进规则在具有随机权重的线性函数和随机MAX-SAT实例上表现更优——而原始规则在此类问题上表现欠佳——同时在OneMax问题上仍保持线性时间复杂度，理论与实验结果均验证了这一点。

ABSTRACT

Self-adjustment of parameters can significantly improve the performance of evolutionary algorithms. A notable example is the $(1+(\lambda,\lambda))$ genetic algorithm, where the adaptation of the population size helps to achieve the linear runtime on the OneMax problem. However, on problems which interfere with the assumptions behind the self-adjustment procedure, its usage can lead to performance degradation compared to static parameter choices. In particular, the one fifth rule, which guides the adaptation in the example above, is able to raise the population size too fast on problems which are too far away from the perfect fitness-distance correlation. We propose a modification of the one fifth rule in order to have less negative impact on the performance in scenarios when the original rule reduces the performance. Our modification, while still having a good performance on OneMax, both theoretically and in practice, also shows better results on linear functions with random weights and on random satisfiable MAX-SAT instances.

研究动机与目标

• 为解决在低适应度-距离相关性问题上，原始1/5规则在(1 + (λ, λ)) GA中因λ适应过快而导致的性能下降问题。
• 研究标准自适应机制在适应度与最优解距离相关性较差场景下的局限性。
• 提出一种改进的自适应规则，以在连续多次失败期间减缓λ的增长速度。
• 评估改进规则是否在保持OneMax上线性时间复杂度的同时，提升在更复杂、更现实问题上的性能。
• 探索最优λ选择作为未来自适应策略的理论与实证基准潜力。

提出的方法

• 在1/5规则中引入回滚机制，以在长时间失败阶段降低λ自适应的速度。
• 通过调整自适应步骤中的乘法因子F，对标准1/5规则进行修改，以在多次失败后减小λ的增幅。
• 采用改进的自适应逻辑：在连续U−1次失败后，λ按F^(1/(U−1))的因子增加，而非直接按F增加，从而有效降低适应速度。
• 在(1 + (λ, λ)) GA中实现该改进规则，并在OneMax、LinIntW和随机MAX-SAT等基准问题上与原始版本进行对比。
• 在n = 1000个实例上进行实验，评估多种问题类型下的适应度评估次数。
• 基于实验数据，推导出作为到最优解汉明距离函数的最优λ值，并模拟一个假设的“最优外推”(1 + (λ, λ)) GA用于对比。

实验结果

研究问题

• RQ1 原始1/5规则是否在低适应度-距离相关性问题（如具有随机权重的线性函数或具有植入解的随机MAX-SAT）上导致性能下降？
• RQ2 带有回滚机制的改进1/5规则是否能降低在失败序列期间λ的适应速率，从而提升在非OneMax问题上的性能？
• RQ3 改进规则是否在理论上和实验上均保持了在OneMax上的线性时间复杂度保证？
• RQ4 改进后的(1 + (λ, λ)) GA在各类基准问题上的性能与原始版本及最优配置版本相比如何？
• RQ5 当前自适应机制与最佳可能的自适应策略之间是否存在性能差距，表明仍存在进一步改进的空间？

主要发现

• 所提出的基于回滚的1/5规则改进，在具有随机整数权重的线性函数（LinInt2、LinInt5）以及对数密度的随机MAX-SAT实例上，性能优于原始(1 + (λ, λ)) GA。
• 在OneMax问题上，改进算法在理论上和实践中均保持线性时间复杂度，与原始版本相比仅存在约10%的性能下降。
• 通过实验数据基于汉明距离推导出λ值的“最优外推”(1 + (λ, λ)) GA——即最优配置版本——在所有测试问题上均优于所有自适应版本，包括本文提出的版本。
• 在LinInt1000（随机权重）问题上，改进算法将适应度评估次数减少至10,994.36 ± 2330.01，而原始(1 + (λ, λ)) GA为15,420.16 ± 4281.11，显示出显著改进。
• 结果表明，当前自适应策略仍为次优，即使表现最佳的自适应版本也未能达到最优配置(1 + (λ, λ)) GA的性能。
• 本研究证实，当前自适应机制与最优λ自适应的理论潜力之间仍存在显著差距，提示未来算法改进具有广阔空间。