[論文レビュー] Hyper-heuristics Can Achieve Optimal Performance for Pseudo-Boolean Optimisation.

Andrei Lissovoi, Pietro S. Oliveto+1 more|arXiv (Cornell University)|Jan 23, 2018

Metaheuristic Optimization Algorithms Research被引用数 4

ひとこと要約

本稿では、時間窓τ内でのヒューリスティックの成功を評価する一般化選択・摂動ハイパーオルタスティクスを導入し、効果的な学習と活用を可能にしている。LeadingOnes問題において、一般化ランダム勾配および一般化ギャンブル勾配ハイパーオルタスティクスは最適な性能を達成しており、時間窓での学習が単一ステップ選択メカニズムでは達成できない効率性を可能にしていることを示している。

ABSTRACT

Selection hyper-heuristics are randomised search methodologies which choose and execute heuristics from a set of low-level heuristics. Recent research for the LeadingOnes benchmark function has shown that the standard Simple Random, Permutation, Random Gradient, Greedy and Reinforcement Learning selection mechanisms show no effects of learning. The idea behind the learning mechanisms is to continue to exploit the currently selected heuristic as long as it is successful. However, the probability that a promising heuristic is successful in the next step is relatively low when perturbing a reasonable solution to a combinatorial optimisation problem. In this paper we generalise the `simple' selection-perturbation mechanisms so success can be measured over some fixed period of time tau, rather than in a single iteration. We present a benchmark function where it is necessary to learn to exploit a particular low-level heuristic, rigorously proving that it makes the difference between an efficient and an inefficient algorithm. For LeadingOnes we prove that the Generalised Random Gradient, and the Generalised Greedy Gradient hyper-heuristics achieve optimal performance, while Generalised Greedy, although not as fast, still outperforms Random Local Search. The performance of the former two hyper-heuristics improves as the number of operators to choose from increases, while that of the Generalised Greedy hyper-heuristic does not. Experimental analyses confirm these results for realistic problem sizes and shed some light on the best choices of the parameter tau in various situations.

研究の動機と目的

• 標準的な選択ハイパーオルタスティクスの、時間経過に伴うヒューリスティックの性能から学習する能力の制限を是正すること。
• 固定時間窓τ内でのヒューリスティックの成功を測定することで、組合せ最適化における学習と性能が向上するかどうかを調査すること。
• 時間τステップでの学習が、LeadingOnesベンチマーク関数で最適な性能を達成可能であることを厳密に証明すること。
• 一般化ハイパーオルタスティクスと、ランダム局所探索や従来の選択メカニズムといった標準的手法との性能を比較すること。
• 現実的な問題サイズにおける、異なるハイパーオルタスティクスのバリアントの最適なτ値を特定すること。

提案手法

• 標準的な選択・摂動ハイパーオルタスティクスを一般化し、1ステップではなく固定時間窓τ内でのヒューリスティックの成功を測定するようにすること。
• τステップの累積的成功に基づいて動的にヒューリスティックを選択する一般化ランダム勾配および一般化ギャンブル勾配ハイパーオルタスティクスを導入すること。
• 最適な性能を達成するために学習が必要となるように設計された新しいベンチマーク関数を用いること。
• 一般化ランダム勾配および一般化ギャンブル勾配ハイパーオルタスティクスがLeadingOnesで最適実行時間を達成することを理論的分析により証明すること。
• 現実的な問題サイズにおける実験的評価を実施し、理論的結果の妥当性を検証するとともに、異なるτ値における性能を評価すること。
• 一般化ハイパーオルタスティクスの性能を、ランダム局所探索や従来の選択メカニズムといった標準的手法と比較すること。

実験結果

リサーチクエスチョン

• RQ1 時間窓τ内での学習が可能であれば、ハイパーオルタスティクスは単一ステップの成功ではなく、LeadingOnesで最適な性能を達成できるか？
• RQ2 利用可能な低レベルヒューリスティクスの数が増加するにつれて、一般化ハイパーオルタスティクスの性能はどのように変化するか？
• RQ3 実際の応用において、τの選択がハイパーオルタスティクスの効率性に顕著な影響を与えるか？
• RQ4 最適な性能を達成するためにτステップでの学習が不可欠となるようなベンチマーク関数を構築できるか？
• RQ5 収束速度の観点から、一般化ハイパーオルタスティクスはランダム局所探索といった標準的手法と比べてどのように差がつくか？

主な発見

• 一般化ランダム勾配および一般化ギャンブル勾配ハイパーオルタスティクスは、LeadingOnes問題で最適な性能を達成しており、τステップでの学習が単一ステップ選択では達成できない効率性を可能にしていることを証明している。
• 一般化ランダム勾配および一般化ギャンブル勾配ハイパーオルタスティクスの性能は、利用可能な低レベルヒューリスティクスの数が増加するにつれて向上する。
• 一般化ギャンブルハイパーオルタスティクスは最適ではないが、依然としてランダム局所探索を上回る性能を示しており、時間窓を用いた学習に明確な利点があることを示している。
• 実験結果により、現実的な問題サイズにおける一般化ハイパーオルタスティクスの理論的優位性が確認された。
• 最適なτの値は、特定のハイパーオルタスティクスのバリアントおよび問題の特性に依存しており、異なるτ設定での性能に差が生じることが分かった。
• 本研究では、特定の組合せ最適化問題において、時間窓での学習が最適な性能を達成するために不可欠であることが示された。