[论文解读] Potholes on the Royal Road

Theodore C. Belding|ArXiv.org|Apr 6, 2001

Evolutionary Algorithms and Applications参考文献 31被引用 6

一句话总结

本文提出一种辩证研究方法，通过设计'坑洞函数'（即带有适应度山谷的改良型王室之路函数）来检验遗传算法中的积木块假说。研究发现，一种容许小幅适应度下降的宽松随机突变局部搜索算法（LRMHC）在特定坑洞函数上优于简单遗传算法（SGA），揭示了即使是最基本的局部搜索算法，只要具备关于问题结构的领域知识，也能超越进化算法。

ABSTRACT

It is still unclear how an evolutionary algorithm (EA) searches a fitness landscape, and on what fitness landscapes a particular EA will do well. The validity of the building-block hypothesis, a major tenet of traditional genetic algorithm theory, remains controversial despite its continued use to justify claims about EAs. This paper outlines a research program to begin to answer some of these open questions, by extending the work done in the royal road project. The short-term goal is to find a simple class of functions which the simple genetic algorithm optimizes better than other optimization methods, such as hillclimbers. A dialectical heuristic for searching for such a class is introduced. As an example of using the heuristic, the simple genetic algorithm is compared with a set of hillclimbers on a simple subset of the hyperplane-defined functions, the pothole functions.

研究动机与目标

• 通过设计挑战该假说基本假设的测试函数，检验进化计算中积木块假说（BBH）的有效性。
• 识别一类简单遗传算法（SGA）优于其他优化方法（如局部搜索算法）的适应度函数类别。
• 探究在何种条件下进化算法中的交叉与选择相较于局部搜索启发式方法具有优势。
• 开发一种辩证启发式方法，通过迭代修改函数，使SGA保持优势的同时，增加对日益复杂的局部搜索算法的难度。
• 揭示简单局部搜索算法的局限性，以及领域特定知识在优化性能中的作用。

提出的方法

• 在王室之路（RR）框架基础上引入'坑洞函数'——即带有人工适应度山谷（深度为0.1或1.4）的RR函数，以阻碍局部搜索方法。
• 设计一种宽松随机突变局部搜索算法（LRMHC），当新解适应度下降不超过ε = 0.1时即接受，融入关于坑洞深度的领域知识。
• 以适应度评估次数和收敛速度为性能指标，比较SGA与LRMHC在坑洞函数 $ p_1 $ 上的表现。
• 采用辩证方法：若局部搜索算法表现优于SGA，则修改函数以增加对局部搜索算法的难度，同时保持SGA的优势。
• 采用一种适应度函数，其中模式结构对适应度贡献+1.0或+1.4，并使用基于阈值的接受规则，模拟对适应度下降的容忍度。
• 分析LRMHC在 $ p_1 $ 上的行为，以预测哪些函数结构特征会使此类启发式方法难以处理。

实验结果

研究问题

• RQ1 在何种类别的适应度函数上，简单遗传算法（SGA）优于简单局部搜索算法？
• RQ2 适应度山谷（坑洞）的存在如何影响局部搜索方法（如随机突变局部搜索）的性能？
• RQ3 在多大程度上，通过引入领域特定知识（如坑洞深度）可使局部搜索算法在特定函数上超越SGA？
• RQ4 能否使用辩证启发式方法系统地生成对SGA容易但对日益复杂的局部搜索算法困难的函数？
• RQ5 在何种条件下积木块假说具有经验有效性？交叉操作何时更像一种宏突变而非积木块重组操作？

主要发现

• LRMHC在坑洞函数 $ p_1 $ 上优于SGA，始终能快速找到全局最优解。
• LRMHC通过容忍最多0.1的适应度下降，成功避开了会困住标准局部搜索算法的浅层坑洞。
• SGA在 $ p_1 $ 上表现不佳，尽管使用了交叉操作，仍难以摆脱由坑洞引入的局部最优。
• 结果表明，即使仅具备关于问题结构的最小领域知识，简单局部搜索算法也能超越进化算法。
• 在 $ p_1 $ 上存在一种简单而高效的局部搜索算法（LRMHC）的事实，削弱了'进化算法在简单结构化函数上具有固有优势'的假设。
• 本研究证实，必须通过详细分析景观特征与算法行为，才能判断积木块假说是否成立，而不能默认其有效。