[论文解读] On the Effectiveness of Simple Success-Based Parameter Selection Mechanisms for Two Classical Discrete Black-Box Optimization Benchmark Problems

Carola Doerr, Markus Wagner|arXiv (Cornell University)|Mar 4, 2018

Metaheuristic Optimization Algorithms Research参考文献 17被引用 8

一句话总结

本文提出了一种针对(1+1)进化算法的简单基于成功次数的乘法参数控制规则，根据每代是否产生改进来调整变异率。该方法在OneMax和LeadingOnes问题上实现了接近最优的性能，在LeadingOnes问题上相比最佳静态单参数无偏黑箱算法性能提升高达18%，表明高性能无需依赖复杂的自适应机制。

ABSTRACT

Despite significant empirical and theoretically supported evidence that non-static parameter choices can be strongly beneficial in evolutionary computation, the question how to best adjust parameter values plays only a marginal role in contemporary research on discrete black-box optimization. This has led to the unsatisfactory situation in which feedback-free parameter selection rules such as the cooling schedule of Simulated Annealing are predominant in state-of-the-art heuristics, while, at the same time, we understand very well that such time-dependent selection rules can only perform worse than adjustment rules that do take into account the evolution of the optimization process. A number of adaptive and self-adaptive parameter control strategies have been proposed in the literature, but did not (yet) make their way to a broader public. A key obstacle seems to lie in their rather complex update rules. The purpose of our work is to demonstrate that high-performing online parameter selection rules do not have to be very complicated. More precisely, we experiment with a multiplicative, comparison-based update rule to adjust the mutation probability of a (1+1)~Evolutionary Algorithm. We show that this simple self-adjusting rule outperforms the best static unary unbiased black-box algorithm on LeadingOnes, achieving an almost optimal speedup of about~$18\%$.

研究动机与目标

• 探究在离散黑箱优化中，简单的反馈式参数控制机制是否能够优于静态参数选择。
• 评估一种乘法、基于比较的更新规则在调整进化算法变异率方面的有效性。
• 证明高性能的在线参数选择无需依赖复杂的自适应或自适应机制。
• 将所提出的自适应(1+1)EA变体与静态及最优单参数无偏黑箱算法在经典基准问题上的性能进行比较。
• 探索该方法在不同问题维度和参数配置下的可扩展性与鲁棒性。

提出的方法

• 该方法采用乘法更新规则：当检测到改进时，将变异率乘以A > 1；当未检测到改进时，将其乘以b < 1。
• 变异率初始化为p₀ = 1/n，并仅基于前一代的成功或失败情况进行在线更新。
• 该算法应用于(1+1)EA变体，仅评估与父代不同的后代，从而确保无冗余评估。
• 更新规则为基于比较的机制，仅依赖于后代是否优于父代，不依赖于绝对适应度值或梯度信息。
• 该方法在两个经典离散黑箱问题（OneMax和LeadingOnes）上进行评估，覆盖多种问题规模（n ≤ 3,000）。
• 性能通过1,001次独立运行的平均优化时间进行衡量，并与RLS、静态参数的(1+1)EA以及理论最优单参数无偏算法进行比较。

实验结果

研究问题

• RQ1 基于成功次数的简单乘法更新规则是否能在离散黑箱问题上实现接近理论最优的性能？
• RQ2 所提出的自适应(1+1)EA α是否在OneMax和LeadingOnes问题上优于最佳静态单参数无偏黑箱算法？
• RQ3 该自适应机制在不同更新规则参数（A, b）下，其性能随问题维度n增加如何变化？
• RQ4 自适应参数选择在优化过程中动态跟踪最优变异率的程度如何？
• RQ5 与无反馈的时间依赖规则（如模拟退火的冷却调度）相比，简单的基于比较的反馈机制是否更具优势？

主要发现

• (1+1)EA α在A=1.2且b=0.85时，在OneMax问题上的平均优化时间与最优单参数无偏黑箱算法相差不足1%，在n=100至n=3,000范围内c值（归一化时间）为0.974–0.996。
• 在LeadingOnes问题上，自适应算法相比最佳静态单参数无偏黑箱算法实现了约18%的加速，展现出显著的性能提升。
• 在OneMax问题上，自适应算法始终优于或等同于RLS，其在n=100至n=3,000范围内的平均优化时间与RLS的最优性能相差不足1%。
• 变异率在优化过程中动态调整：从初始的p₀=1/n开始，当适应度接近n/2时增加至接近1/2，随后在适应度超过1,332时下降至1，与理论最优值一致。
• 该方法在不同A和b配置下均表现出鲁棒性，所有测试设置的性能均非常接近RLS，且优于静态(1+1)EA（p=1/n）。
• 实证结果表明，基于成功次数的乘法规则在大规模问题维度（n=3,000）下仍能良好扩展，保持高性能且无需复杂调参。