[论文解读] General Drift Analysis with Tail Bounds

Per Kristian Lehre, Carsten Witt|arXiv (Cornell University)|Jul 9, 2013

Optimization and Search Problems参考文献 27被引用 32

一句话总结

本文提出一个适用于具有可变漂移的随机过程的一般漂移定理，包含上下尾界，从而实现对 hitting time 的精确集中不等式。该定理证明了 (1+1) EA 在 OneMax、LeadingOnes 和线性函数上的优化时间在期望值附近高度集中，尾概率随偏离因子 r 呈指数衰减，即使在位置相关漂移下也成立。

ABSTRACT

Drift analysis is one of the state-of-the-art techniques for the runtime analysis of randomized search heuristics (RSHs) such as evolutionary algorithms (EAs), simulated annealing etc. The vast majority of existing drift theorems yield bounds on the expected value of the hitting time for a target state, e.g., the set of optimal solutions, without making additional statements on the distribution of this time. We address this lack by providing a general drift theorem that includes bounds on the upper and lower tail of the hitting time distribution. The new tail bounds are applied to prove very precise sharp-concentration results on the running time of a simple EA on standard benchmark problems, including the class of general linear functions. Surprisingly, the probability of deviating by an $r$-factor in lower order terms of the expected time decreases exponentially with $r$ on all these problems. The usefulness of the theorem outside the theory of RSHs is demonstrated by deriving tail bounds on the number of cycles in random permutations. All these results handle a position-dependent (variable) drift that was not covered by previous drift theorems with tail bounds. Moreover, our theorem can be specialized into virtually all existing drift theorems with drift towards the target from the literature. Finally, user-friendly specializations of the general drift theorem are given.

研究动机与目标

• 为解决现有随机搜索启发式算法（RSHs）漂移定理中缺乏尾界的不足，特别是针对可变漂移的情形。
• 提供一个统一框架，推广现有的漂移定理，包括加法型、乘法型及适应度层级方法。
• 推导出 RSHs 的 hitting time 分布的精确集中不等式，尤其针对 (1+1) EA 在基准问题上的优化时间。
• 将漂移分析的应用范围拓展至 RSHs 之外，展示其在分析随机排列中循环数方面的应用。
• 为实际运行时间分析提供用户友好的定理特例。

提出的方法

• 基于 Lyapunov 函数与矩生成函数，提出一个一般漂移定理，以界定了 hitting time 的尾概率。
• 通过使用严格递增函数 g 的变换，将可变漂移条件转化为适合进行指数矩界的形式。
• 通过对变换后过程应用类似 Chernoff 的界，通过控制 g(X_t) 的一步变化的矩生成函数来实现。
• 利用参数 λ 和 η 优化界，通过指数不等式推导出上下尾界。
• 通过构造适当的 g 函数，将一般定理特例化于具体问题，包括 OneMax、LeadingOnes 和线性函数。
• 通过将过程建模为具有可变漂移的递减随机过程，将定理应用于概率递推关系，如随机排列中的循环数。

实验结果

研究问题

• RQ1 能否开发一个一般漂移定理，使得在可变漂移条件下，能够为 hitting time 提供上下尾界？
• RQ2 该定理如何被特例化以恢复现有的漂移定理，包括加法型、乘法型及适应度层级方法？
• RQ3 在标准基准问题上，(1+1) EA 的优化时间在期望值附近的集中程度如何？
• RQ4 该新漂移定理是否可应用于 RSHs 之外，例如经典概率递推关系如排列中的循环计数？
• RQ5 期望优化时间中低阶项的偏离，其尾概率的衰减速率如何？

主要发现

• 在 OneMax、LeadingOnes 及一般线性函数上，(1+1) EA 展现出高度集中性：在低阶项中偏离 r 因子的概率随 r 呈指数衰减。
• 对于 OneMax 上的 (1+1) EA，下尾概率 Pr(T₀ < (1−ε)ln n) 有界于 e⁻ᴼ⁽ⁿ⁾，上尾概率 Pr(T₀ > (1+ε)ln n) 同样有界于 e⁻ᴼ⁽ⁿ⁾，表明其在期望值附近具有强集中性。
• n 个元素的随机排列中循环数在期望值 ln n 附近高度集中，尾概率随偏离量呈指数衰减。
• 该一般漂移定理通过适当的参数化，涵盖了所有已知的可变、加法型与乘法型漂移定理，以及适应度层级方法。
• 该定理提供了非渐近、用户友好的界，即使在漂移为位置相关且非恒定的情况下依然有效。
• 推导出的界具有紧致性，揭示了 (1+1) EA 的运行时间高度可预测，尽管搜索过程具有高度随机性，但出现大偏离的情况极为罕见。