[论文解读] Self-adaptation of Mutation Rates in Non-elitist Populations

Duc-Cuong Dang, Per Kristian Lehre|arXiv (Cornell University)|Jun 17, 2016

Evolutionary Algorithms and Applications参考文献 10被引用 9

一句话总结

本文首次对离散非精英进化算法中的自适应机制进行了严格的运行时间分析，证明在基因组中编码变异率可实现自动调参，从而在固定或均匀混合变异率策略下实现指数级加速。该方法利用层次化定理证明：当策略参数 $ p $ 足够小时，算法能高效适应变异率以匹配适应度景观，在 LeadingOnes 问题上实现最优性能。

ABSTRACT

The runtime of evolutionary algorithms (EAs) depends critically on their parameter settings, which are often problem-specific. Automated schemes for parameter tuning have been developed to alleviate the high costs of manual parameter tuning. Experimental results indicate that self-adaptation, where parameter settings are encoded in the genomes of individuals, can be effective in continuous optimisation. However, results in discrete optimisation have been less conclusive. Furthermore, a rigorous runtime analysis that explains how self-adaptation can lead to asymptotic speedups has been missing. This paper provides the first such analysis for discrete, population-based EAs. We apply level-based analysis to show how a self-adaptive EA is capable of fine-tuning its mutation rate, leading to exponential speedups over EAs using fixed mutation rates.

研究动机与目标

• 为离散进化算法中的自适应机制提供严格的理论基础，其中变异率在种群内演化。
• 确定在非精英种群中自适应成功所需的策略参数 $ p $ 的必要与充分条件。
• 证明自适应在某些问题上对效率至关重要，其性能优于固定或混合变异率策略。
• 表明具有自适应机制的非精英 EAs 在运行时间方面可超越标准 (μ+λ) EA。

提出的方法

• 本研究采用层次化分析方法，对自适应 (μ+λ) EA 在 LeadingOnes 函数上的期望运行时间进行上界估计。
• 变异率作为搜索点的一部分编码在基因组中，每个个体同时携带一个位串和一个变异率 $ \chi \in \mathcal{M} $。
• 自适应变异算子以概率 $ p $ 修改变异率，从 $ \mathcal{M} \setminus \{\chi\} $ 中均匀随机选择新值，同时使用新变异率对位串进行变异。
• 分析建立了在策略参数 $ p $、种群大小 $ \lambda $ 和问题规模 $ n $ 满足特定条件下，算法可实现多项式时间运行的条件。
• 该方法利用集中不等式和马尔可夫不等式，证明种群在长时间内以高概率保持在有利状态。
• 引入了 LeadingOnes 的一个变体，以证明自适应不仅有益，而且是必需的，因为固定或混合变异率策略需要指数时间。

实验结果

研究问题

• RQ1 在何种策略参数 $ p $ 条件下，自适应机制能在非精英进化算法中实现高效优化？
• RQ2 在离散优化中，自适应机制能否实现相对于固定或均匀混合变异率的指数级加速？
• RQ3 在某些问题实例中，自适应是否对高效优化至关重要，还是可通过静态参数设置绕过？
• RQ4 非精英 EAs 中的自适应机制能否在期望运行时间方面超越标准 (μ+λ) EA？

主要发现

• 当 $ p $ 足够小时，自适应 EA 在 LeadingOnes 函数上的期望运行时间为 $ O(n\log\lambda + n^2/\lambda) $ 代。
• 当 $ p \leq 1/1000 $ 时，算法以高概率保持在不良状态的种群比例较低，从而确保了稳健收敛。
• 种群动态适应变异率：在搜索早期偏好较高变异率，随着适应度提升逐渐转向较低变异率，该行为在 $ n=200 $ 的实验中得到验证。
• 在修改后的 LeadingOnes 函数上，固定或混合变异率需要指数时间，而自适应机制实现了多项式时间运行，证明了其必要性。
• 在良好阶段，找到最优解的期望代数为 $ O(1) $，因此总期望运行时间为 $ O(\lambda(n\log\lambda + n^2/\lambda)) $ 次函数评估。
• 实验结果表明，当 (1/10) 排名个体的适应度 $ j \geq 108 $ 时，超过 90% 的种群选择低变异率 $ \chi_{\text{low}} = 2/5 $，证实了其自适应行为。