[论文解读] The 1/5-th Rule with Rollbacks: On Self-Adjustment of the Population Size in the $(1+(λ,λ))$ GA

Anton Bassin, Maxim Buzdalov|arXiv (Cornell University)|Apr 15, 2019

Metaheuristic Optimization Algorithms Research参考文献 3被引用 4

一句话总结

本文提出了一种改进的五分之一规则，用于在(1+(λ,λ))GA中自适应调整种群大小λ，引入回滚机制以在长期失败期间减缓λ的增长。该方法在具有随机权重的线性函数和随机MAX-SAT实例上表现更优——在这些场景下，原始规则表现欠佳——同时在OneMax问题上保持线性运行时间，理论和实验结果均证实了这一点。

ABSTRACT

Self-adjustment of parameters can significantly improve the performance of evolutionary algorithms. A notable example is the $(1+(λ,λ))$ genetic algorithm, where the adaptation of the population size helps to achieve the linear runtime on the OneMax problem. However, on problems which interfere with the assumptions behind the self-adjustment procedure, its usage can lead to performance degradation compared to static parameter choices. In particular, the one fifth rule, which guides the adaptation in the example above, is able to raise the population size too fast on problems which are too far away from the perfect fitness-distance correlation. We propose a modification of the one fifth rule in order to have less negative impact on the performance in scenarios when the original rule reduces the performance. Our modification, while still having a good performance on OneMax, both theoretically and in practice, also shows better results on linear functions with random weights and on random satisfiable MAX-SAT instances.

研究动机与目标

• 解决(1+(λ,λ))GA在低适应度-距离相关性问题（如具有随机权重的线性函数和随机MAX-SAT实例）上性能下降的问题。
• 研究标准五分之一规则在λ自适应调整中为何在这些问题上失效，原因在于种群大小增长过激。
• 开发一种改进的自适应策略，以在长时间失败迭代序列期间降低λ的增长速率。
• 确保改进后的算法在提升复杂度更高、相关性更低问题性能的同时，仍能保持在OneMax问题上的线性运行时间。
• 探索最优λ自适应的理论与实验潜力，即使在实际运行中难以实时实现。

提出的方法

• 引入一种回滚机制，当连续失败迭代次数超过阈值时，将λ按因子减小，从而在进展缓慢期间减缓自适应速度。
• 修改五分之一规则，以限制在长时间失败期间λ的增长速率，有效将增长速度降低至原始速率的平方根左右。
• 在OneMax、具有随机整数权重的线性函数（LinIntW）以及具有植入解的随机MAX-SAT实例上进行实验评估。
• 将改进后的算法与原始(1+(λ,λ))GA及静态参数选择（如λ = n，λ = log n）在多个问题实例上进行比较。
• 根据实验数据推导出作为距最优解汉明距离函数的最优λ值，并使用这些值进行性能模拟。
• 理论上证明改进后的算法在OneMax问题上保持线性期望运行时间，其证明结构遵循原始(1+(λ,λ))GA的框架。

实验结果

研究问题

• RQ1 为何标准五分之一规则在λ自适应调整中会导致在具有随机权重的线性函数和随机MAX-SAT实例上性能下降？
• RQ2 带有回滚机制的改进五分之一规则是否能有效降低长时间失败期间λ的增长速率，从而提升非OneMax问题上的性能？
• RQ3 改进后的算法是否在保持OneMax问题上线性运行时间的同时，实现了在其他基准问题上的性能提升？
• RQ4 当使用实验推导出的最优λ值（基于汉明距离）时，(1+(λ,λ))GA的性能与自适应策略相比如何？
• RQ5 即使采用最优λ自适应，(1+(λ,λ))GA框架中是否仍存在进一步改进的空间？

主要发现

• 带有回滚机制的改进五分之一规则显著降低了长时间失败期间λ的增长速率，有效将自适应速度减慢至原始速度的平方根左右。
• 在具有随机整数权重的线性函数（LinIntW）上，改进后的算法相比原始(1+(λ,λ))GA性能提升了一个常数因子，理论与实验结果均证实了这一点。
• 对于具有植入解且子句密度为对数级的随机MAX-SAT实例，改进后的算法在性能上持续优于原始版本。
• 改进后的算法在OneMax问题上保持了线性期望运行时间，理论与实验结果均表明其核心效率得以保留。
• 当使用基于汉明距离推导出的最优λ值时，(1+(λ,λ))GA在所有测试问题上（包括困难的LinInt1000实例）的性能优于(1+1)EA。
• 实验结果表明，通过进一步改进自适应策略，甚至可在当前框架下实现低于(1+1)EA的运行时间。