[论文解读] A Simplified Run Time Analysis of the Univariate Marginal Distribution Algorithm on LeadingOnes

Benjamin Doerr, Martin S. Krejca|arXiv (Cornell University)|Apr 10, 2020

Advanced Bandit Algorithms Research参考文献 19被引用 22

一句话总结

本文通过使用简单的概率论论证而非复杂的基于层级的种群方法，对单变量分布估计算法（UMDA）在LeadingOnes函数上的运行时间进行了简化的分析。该分析建立了高概率下的紧运行时间上界 $ϴ\left(\lambda \frac{n}{\log(\lambda/\mu)}\right)$，相较于先前结果去除了 $\log\lambda$ 因子，并展示了低选择率 $\mu/\lambda$ 带来的收益。该分析还首次给出了匹配的下界，确认了在常数因子范围内的紧致性。

ABSTRACT

With elementary means, we prove a stronger run time guarantee for the univariate marginal distribution algorithm (UMDA) optimizing the LeadingOnes benchmark function in the desirable regime with low genetic drift. If the population size is at least quasilinear, then, with high probability, the UMDA samples the optimum within a number of iterations that is linear in the problem size divided by the logarithm of the UMDA's selection rate. This improves over the previous guarantee, obtained by Dang and Lehre (2015) via the deep level-based population method, both in terms of the run time and by demonstrating further run time gains from small selection rates. With similar arguments as in our upper-bound analysis, we also obtain the first lower bound for this problem. Under similar assumptions, we prove that a bound that matches our upper bound up to constant factors holds with high probability.

研究动机与目标

• 在低遗传漂移条件下，改进UMDA在LeadingOnes函数上的运行时间保证。
• 开发一种更简单的证明技术，避免先前工作中使用的复杂基于层级的种群方法。
• 建立上下界，使其在常数因子范围内匹配，从而提供紧致的运行时间估计。
• 证明降低选择率 $\mu/\lambda$ 可带来显著的运行时间收益，其量化程度由 $\log(\lambda/\mu)$ 因子体现。
• 表明新证明方法可推广至其他单变量EDAs。

提出的方法

• 使用简单的概率论论证代替高级的基于层级的种群方法，分析UMDA在LeadingOnes上的收敛性。
• 应用集中不等式和并集界，以控制迭代和频率中失败的概率。
• 分析每个位频率的动力学，区分那些保持在中间范围的频率与那些达到边界值的频率。
• 通过带有显式边界的类似漂移的推理，建模频率从低值（如 $1/n$）恢复到 $1 - 1/n$ 所需的时间。
• 引入关键频率分析，以边界从低频状态恢复的时间，利用选择率 $\mu/\lambda$。
• 使用相似的技术结合上下界分析，实现常数因子范围内的紧致性。

实验结果

研究问题

• RQ1 能否用更简单的证明技术替代基于层级的方法来分析UMDA在LeadingOnes上的运行时间？
• RQ2 当 $\mu = \Omega(n\log n)$ 时，UMDA在LeadingOnes上的最紧运行时间上界是什么？
• RQ3 选择率 $\mu/\lambda$ 如何影响运行时间，且能否在常数因子之外进行量化？
• RQ4 同一种基础方法能否用于推导UMDA在LeadingOnes上的上下界？
• RQ5 UMDA在LeadingOnes上的运行时间保证 $O(n\lambda\log\lambda)$ 是否可改进，若可，改进幅度如何？

主要发现

• 当 $\mu = \Omega(n\log n)$ 时，本文将UMDA在LeadingOnes上的最佳已知上界从 $O(n\lambda\log\lambda)$ 提升至 $O\left(n\frac{\lambda}{\log(\lambda/\mu)}\right)$。
• 新上界去除了不必要的 $\log\lambda$ 因子，并表明降低选择率 $\mu/\lambda$ 可带来 $\log(\lambda/\mu)$ 的运行时间改进。
• 作者首次建立了匹配的下界 $\Omega\left(\lambda\frac{n}{\log(\lambda/\mu)}\right)$，在相同条件下证明了紧致性（常数因子范围内）。
• 该运行时间保证在高概率下成立，而此前结果仅界定了期望运行时间。
• 该证明方法基础且可推广，表明其适用于其他单变量EDAs。
• 该结果无需假设 $\mu/\lambda$ 为常数，因此适用于更广泛的参数设置。