[论文解读] Hyper-heuristics Can Achieve Optimal Performance for Pseudo-Boolean Optimisation.

Andrei Lissovoi, Pietro S. Oliveto+1 more|arXiv (Cornell University)|Jan 23, 2018

Metaheuristic Optimization Algorithms Research被引用 4

一句话总结

本文提出广义选择-扰动元启发式方法，通过在时间窗口 τ 内评估启发式算法的成功率，实现有效学习与利用。在 LeadingOnes 问题上，广义随机梯度与广义贪婪梯度元启发式方法达到最优性能，证明了基于时间窗口的学习可实现单步选择机制无法达到的效率。

ABSTRACT

Selection hyper-heuristics are randomised search methodologies which choose and execute heuristics from a set of low-level heuristics. Recent research for the LeadingOnes benchmark function has shown that the standard Simple Random, Permutation, Random Gradient, Greedy and Reinforcement Learning selection mechanisms show no effects of learning. The idea behind the learning mechanisms is to continue to exploit the currently selected heuristic as long as it is successful. However, the probability that a promising heuristic is successful in the next step is relatively low when perturbing a reasonable solution to a combinatorial optimisation problem. In this paper we generalise the `simple' selection-perturbation mechanisms so success can be measured over some fixed period of time tau, rather than in a single iteration. We present a benchmark function where it is necessary to learn to exploit a particular low-level heuristic, rigorously proving that it makes the difference between an efficient and an inefficient algorithm. For LeadingOnes we prove that the Generalised Random Gradient, and the Generalised Greedy Gradient hyper-heuristics achieve optimal performance, while Generalised Greedy, although not as fast, still outperforms Random Local Search. The performance of the former two hyper-heuristics improves as the number of operators to choose from increases, while that of the Generalised Greedy hyper-heuristic does not. Experimental analyses confirm these results for realistic problem sizes and shed some light on the best choices of the parameter tau in various situations.

研究动机与目标

• 解决标准选择型元启发式方法在从启发式算法随时间的表现中学习方面的局限性。
• 探究在固定时间窗口 τ 内衡量启发式算法成功率是否能提升组合优化中的学习效率与性能。
• 严格证明在 τ 步内学习可实现在 LeadingOnes 基准函数上的最优性能。
• 将广义元启发式方法与标准方法（如随机局部搜索和传统选择机制）进行性能比较。
• 在实际问题规模下，识别不同元启发式变体的最优 τ 值。

提出的方法

• 通过在固定时间窗口 τ 内而非单步迭代中衡量启发式算法成功率，推广标准选择-扰动元启发式方法。
• 提出广义随机梯度与广义贪婪梯度元启发式方法，基于 τ 步内的累积成功率动态选择启发式算法。
• 设计一种新基准函数，要求通过学习来利用特定启发式算法才能实现最优性能。
• 采用理论分析证明广义随机梯度与广义贪婪梯度方法在 LeadingOnes 上实现最优运行时间。
• 在实际问题规模上开展实验评估，以验证理论发现并评估不同 τ 值下的性能表现。
• 将广义元启发式方法与标准方法（包括随机局部搜索和传统选择机制）进行性能比较。

实验结果

研究问题

• RQ1 元启发式方法是否可通过在时间窗口 τ 内学习而非单步成功评估，实现在 LeadingOnes 问题上的最优性能？
• RQ2 广义元启发式方法的性能如何随可用的低层启发式算法数量变化？
• RQ3 τ 的选择在实践中是否显著影响元启发式方法的效率？
• RQ4 能否构建一种基准函数，使得在 τ 步内学习成为实现最优性能的必要条件？
• RQ5 在收敛速度方面，广义元启发式方法与标准方法（如随机局部搜索）相比表现如何？

主要发现

• 广义随机梯度与广义贪婪梯度元启发式方法在 LeadingOnes 问题上实现最优性能，证明了在 τ 步内学习可实现单步选择机制无法达到的效率。
• 广义随机梯度与广义贪婪梯度元启发式方法的性能随可用低层启发式算法数量的增加而提升。
• 广义贪婪元启发式方法虽非最优，但仍优于随机局部搜索，表明时间窗口学习具有可测量的优势。
• 实验结果证实了广义元启发式方法在实际问题规模下的理论优势。
• 最优 τ 值取决于具体元启发式变体与问题特性，不同 τ 设置下的性能表现存在差异。
• 本研究证明，在某些组合优化问题中，基于时间窗口的学习是实现最优性能的必要条件。