[논문 리뷰] Hyper-heuristics Can Achieve Optimal Performance for Pseudo-Boolean Optimisation.

Andrei Lissovoi, Pietro S. Oliveto외 1명|arXiv (Cornell University)|2018. 01. 23.

Metaheuristic Optimization Algorithms Research인용 수 4

한 줄 요약

이 논문은 시간 창 τ 동안 히ュ리스틱 성공률을 평가하는 일반화된 선택-편향 하이퍼휴리스틱을 제안하며, 이는 효과적인 학습과 이용을 가능하게 한다. LeadingOnes 문제에 대해 일반화된 랜덤 기울기 및 일반화된 그리디 기울기 하이퍼휴리스틱은 최적 성능을 달성하며, 이는 시간 창을 통한 학습이 단일 단계 선택 메커니즘으로는 달성할 수 없는 효율성을 가능하게 한다고 증명한다.

ABSTRACT

Selection hyper-heuristics are randomised search methodologies which choose and execute heuristics from a set of low-level heuristics. Recent research for the LeadingOnes benchmark function has shown that the standard Simple Random, Permutation, Random Gradient, Greedy and Reinforcement Learning selection mechanisms show no effects of learning. The idea behind the learning mechanisms is to continue to exploit the currently selected heuristic as long as it is successful. However, the probability that a promising heuristic is successful in the next step is relatively low when perturbing a reasonable solution to a combinatorial optimisation problem. In this paper we generalise the `simple' selection-perturbation mechanisms so success can be measured over some fixed period of time tau, rather than in a single iteration. We present a benchmark function where it is necessary to learn to exploit a particular low-level heuristic, rigorously proving that it makes the difference between an efficient and an inefficient algorithm. For LeadingOnes we prove that the Generalised Random Gradient, and the Generalised Greedy Gradient hyper-heuristics achieve optimal performance, while Generalised Greedy, although not as fast, still outperforms Random Local Search. The performance of the former two hyper-heuristics improves as the number of operators to choose from increases, while that of the Generalised Greedy hyper-heuristic does not. Experimental analyses confirm these results for realistic problem sizes and shed some light on the best choices of the parameter tau in various situations.

연구 동기 및 목표

• 표준 선택 하이퍼휴리스틱이 시간에 따른 히ュ리스틱 성과를 학습하는 데에 한계가 있다는 문제를 해결하기 위해.
• 고정된 시간 창 τ 동안 히ュ리스틱 성공률을 측정하는 것이 조합 최적화 문제에서 학습과 성능 향상에 기여하는지 조사하기 위해.
• 시간 창 τ 단계 동안의 학습이 LeadingOnes 기준 함수에서 최적 성능을 달성할 수 있음을 철학적으로 입증하기 위해.
• 일반화된 하이퍼휴리스틱의 성능을 Random Local Search 및 전통적인 선택 메커니즘과 같은 표준 방법들과 비교하기 위해.
• 실제 문제 크기에서 다양한 하이퍼휴리스틱 변종에 대해 최적의 τ 값들을 특정하기 위해.

제안 방법

• 단일 반복이 아닌 고정된 시간 창 τ 동안의 히ュ리스틱 성공률을 측정함으로써 표준 선택-편향 하이퍼휴리스틱을 일반화하기 위해.
• τ 단계 동안 누적된 성공률에 기반해 동적으로 히ュ리스틱을 선택하는 일반화된 랜덤 기울기 및 일반화된 그리디 기울기 하이퍼휴리스틱을 도입하기 위해.
• 최적 성능을 달성하기 위해 특정 히ュ리스틱을 이용하는 데에 학습이 필요로 하는 새로운 벤치마크 함수를 설계하기 위해.
• 일반화된 랜덤 기울기 및 일반화된 그리디 기울기 하이퍼휴리스틱이 LeadingOnes에서 최적의 런타임을 달성함을 증명하기 위해 이론적 분석을 적용하기 위해.
• 실제 문제 크기에서 이론적 결과를 검증하고 다양한 τ 값에 따른 성능을 평가하기 위해 실험적 평가를 수행하기 위해.
• 일반화된 하이퍼휴리스틱의 성능을 Random Local Search 및 전통적인 선택 메커니즘과 같은 표준 방법들과 비교하기 위해.

실험 결과

연구 질문

• RQ1 시간 창 τ 동안의 학습을 통해 하이퍼휴리스틱이 단일 단계 성공률이 아닌, LeadingOnes에서 최적 성능을 달성할 수 있는가?
• RQ2 사용 가능한 저수준 히ュ리스틱의 수가 증가할수록 일반화된 하이퍼휴리스틱의 성능은 어떻게 변화하는가?
• RQ3 실제 적용에서 τ의 선택이 하이퍼휴리스틱의 효율성에 상당한 영향을 미치는가?
• RQ4 최적 성능을 달성하기 위해 τ 단계 동안의 학습이 반드시 필요로 하는 벤치마크 함수를 구성할 수 있는가?
• RQ5 수렴 속도 측면에서 일반화된 하이퍼휴리스틱은 Random Local Search와 같은 표준 방법과 비교해 어떻게 성능을 내는가?

주요 결과

• 일반화된 랜덤 기울기 및 일반화된 그리디 기울기 하이퍼휴리스틱은 LeadingOnes 문제에서 최적 성능을 달성하며, 이는 τ 단계 동안의 학습이 단일 단계 선택 메커니즘으로는 달성할 수 없는 효율성을 가능하게 한다는 것을 증명한다.
• 일반화된 랜덤 기울기 및 일반화된 그리디 기울기 하이퍼휴리스틱의 성능은 사용 가능한 저수준 히ュ리스틱의 수가 증가할수록 향상된다.
• 일반화된 그리디 하이퍼휴리스틱은 최적은 아니지만 여전히 Random Local Search를 능가하므로, 시간 창을 고려한 학습의 측정 가능한 이점이 있음을 시사한다.
• 실험 결과는 일반화된 하이퍼휴리스틱이 실제 문제 크기에서 이론적 우위를 보임을 확인한다.
• 최적의 τ 값은 특정 하이퍼휴리스틱 변종과 문제 특성에 따라 달라지며, 다양한 τ 설정에서 성능가 변화함을 보였다.
• 본 연구는 특정 조합 최적화 문제에서 최적 성능을 달성하기 위해 시간 창을 통한 학습이 필수적임을 입증한다.