[论文解读] Erratum: Simplified Drift Analysis for Proving Lower Bounds in Evolutionary Computation

Pietro S. Oliveto, Carsten Witt|arXiv (Cornell University)|Nov 30, 2012

Metaheuristic Optimization Algorithms Research参考文献 10被引用 35

一句话总结

本文纠正了进化计算中用于证明下界时所用的简化漂移定理（SDT）中的一个关键错误。它提出了一种修正后的SDT，要求正向和反向跳跃的概率呈指数衰减，从而确保该定理在一般随机过程中的有效性，无需依赖有限状态空间或马尔可夫性假设，并证明所有先前的应用在新条件下仅需微小调整即可保持有效。

ABSTRACT

This erratum points out an error in the simplified drift theorem (SDT) [Algorithmica 59(3), 369-386, 2011]. It is also shown that a minor modification of one of its conditions is sufficient to establish a valid result. In many respects, the new theorem is more general than before. We no longer assume a Markov process nor a finite search space. Furthermore, the proof of the theorem is more compact than the previous ones. Finally, previous applications of the SDT are revisited. It turns out that all of these either meet the modified condition directly or by means of few additional arguments.

研究动机与目标

• 识别并修正原始简化漂移定理（SDT）中的缺陷，该缺陷导致其在某些情况下证明无效。
• 建立一个修正后的SDT版本，其更强的条件可确保其在一般随机过程（包括非马尔可夫过程和无限状态过程）中的有效性。
• 证明所有原始SDT的先前应用要么可直接满足新条件，要么可通过极少额外论证进行调整。
• 通过展示其与修正定理的一致性，重新验证现有进化计算中的下界证明。

提出的方法

• 提出一个反例，表明当朝目标的大跳跃在概率上未被充分限制时，原始SDT会失效。
• 提出修正后的SDT条件，要求正向和反向跳跃均满足指数衰减：$\operatorname{Prob}(|X_{t+1}-X_t| \geq j) \leq 2^{-j}$。
• 以哈杰克的漂移定理为基础，重新表述其内容，避免引入不必要的假设（如非负性或马尔可夫性）。
• 应用引理1于非减函数，以界定证明中的期望值，从而实现更紧凑且更具普遍性的推导。
• 重新审视原始SDT的关键应用（例如，(1,λ)-EA、基于适应度比例的EA），并证明它们在稍作修改后可满足新条件。
• 通过增强选择压力，将基于适应度比例的EA（PEA）修改为PEA’，以防止潜在值出现大幅下降跳跃，从而确保新SDT适用。

实验结果

研究问题

• RQ1 原始简化漂移定理在其陈述条件下是否仍然有效，特别是关于跳跃概率衰减的部分？
• RQ2 SDT中第二个条件的最小强化程度是什么，才能确保其正确性？
• RQ3 所有原始SDT的先前应用是否都能在修正定理下通过极少调整得以挽救？
• RQ4 修正后的SDT是否适用于非马尔可夫过程和无限搜索空间？
• RQ5 修改后的PEA’算法是否能在满足新SDT条件的同时，保持原始分析的一致性？

主要发现

• 原始简化漂移定理如所陈述的那样是无效的，原因在于对漂移矩生成函数的界定存在错误。
• 已建立一个修正后的SDT版本，要求正向和反向跳跃均满足指数衰减：$\operatorname{Prob}(|X_{t+1}-X_t| \geq j) \leq 2^{-j}$。
• 修正后的定理适用于一般随机过程，包括非马尔可夫过程和无限状态过程，且无需施加限制性假设。
• 所有先前发表的原始SDT应用，要么可直接满足新条件，要么仅需极少额外论证即可满足，其有效性得以保留。
• (1,λ)-EA的分析得出的运行时间下界为$2^{\Omega(n^{\varepsilon/2}/\log n)}$，以高概率成立，与修正后的定理一致。
• 基于适应度比例的EA（PEA）被修改为PEA’，通过增强选择压力以防止潜在值出现大幅下降跳跃，从而确保符合新SDT条件。