[论文解读] The Impact of Mutation Rate on the Computation Time of Evolutionary Dynamic Optimization

Tianshi Chen, Yunji Chen+3 more|arXiv (Cornell University)|Jun 3, 2011

Metaheuristic Optimization Algorithms Research参考文献 45被引用 5

一句话总结

本文对动态优化问题中时间可变突变率策略在进化算法中的应用提供了首个严格的理论分析。研究证明，在某些动态问题中，此类自适应突变率并不能显著优于固定突变率，揭示了其在特定条件下应用的固有局限性。

ABSTRACT

Mutation has traditionally been regarded as an important operator in evolutionary algorithms. In particular, there have been many experimental studies which showed the effectiveness of adapting mutation rates for various static optimization problems. Given the perceived effectiveness of adaptive and self-adaptive mutation for static optimization problems, there have been speculations that adaptive and self-adaptive mutation can benefit dynamic optimization problems even more since adaptation and self-adaptation are capable of following a dynamic environment. However, few theoretical results are available in analyzing rigorously evolutionary algorithms for dynamic optimization problems. It is unclear when adaptive and self-adaptive mutation rates are likely to be useful for evolutionary algorithms in solving dynamic optimization problems. This paper provides the first rigorous analysis of adaptive mutation and its impact on the computation times of evolutionary algorithms in solving certain dynamic optimization problems. More specifically, for both individual-based and population-based EAs, we have shown that any time-variable mutation rate scheme will not significantly outperform a fixed mutation rate on some dynamic optimization problem instances. The proofs also offer some insights into conditions under which any time-variable mutation scheme is unlikely to be useful and into the relationships between the problem characteristics and algorithmic features (e.g., different mutation schemes).

研究动机与目标

• 严格分析时间可变突变率策略对动态优化问题中进化算法计算时间的影响。
• 确定在何种条件下自适应突变率相较于固定突变率在动态环境中无显著优势。
• 建立 $(1+1)$ EA 和 $(1+\lambda)$ EA 在动态优化问题（DOP）实例上采用不同突变策略时的性能理论边界。
• 探讨问题特性（如变化速率、结构）与算法特征（如突变率自适应）之间的关系。
• 通过证明其在特定DOP类别中的局限性，挑战自适应突变在动态优化中普遍有益的常见假设。

提出的方法

• 在一类动态优化问题（DOPs）上分析时间可变突变率策略的 $(1+1)$ EA 和 $(1+\lambda)$ EA，特别是 BitMatching D 问题。
• 使用具有时变适应度函数的理论 DOP 模型，并定义涉及状态 $\mathbb{A}_1$、$\mathbb{A}_2$ 和 $\mathbb{F}_2$ 的适应度景观。
• 应用概率分析和 Chernoff 不等式，估计达到目标状态所需生成数的期望值，重点关注首次 hitting 时间。
• 利用转移引理和集中不等式，界定匹配位数可能增加或减少的步数范围。
• 通过渐近分析和超多项式概率界，推导 hitting 时间 $\tau_{\mathbb{F}_2}$ 的下界。
• 证明：即使突变率自适应，以极大概率，该算法在多项式时间内无法达到 $\mathbb{F}_2$

实验结果

研究问题

• RQ1 在何种条件下，时间可变突变率无法改善动态优化中的计算时间？
• RQ2 对于具有已知变化模式的动态优化问题，自适应突变率能否优于固定突变率？
• RQ3 问题的变化速率与自适应突变策略的有效性之间存在何种关系？
• RQ4 在时间可变突变策略下，基于种群的 EAs（$1+\lambda$）与基于个体的 EAs（$1+1$）在性能上如何比较？
• RQ5 突变率自适应是否在动态环境中普遍有益，还是存在固有局限性？

主要发现

• 在 BitMatching D 问题中，任何时间可变突变率策略在计算时间方面均无法显著优于固定突变率。
• 即使突变率自适应，达到目标状态 $\mathbb{F}_2$ 的期望首次 hitting 时间仍为超多项式，且以极大概率成立。
• 分析证明 $\mathbb{P}(\tau_{\mathbb{F}_2} \prec \text{Poly}(n)) \prec \frac{1}{\text{SuperPoly}(n))}$，表明多项式时间收敛的可能性极低。
• 穿越 $\mathbb{A}_1$ 所需的代数 $T$ 以极大概率满足下界 $\gamma^{3/7}\log n$。
• 条件 $T^+ > d \cdot \frac{T}{\gamma^{1/7}}$ 是取得进展的必要条件，但无法以极大概率满足，从而限制了算法的推进。
• 理论结果表明，自适应突变并非万能解法，当问题的演化动态复杂或进展受随机波动制约时，其可能失效。