[论文解读] An Improved Generic Bet-and-Run Strategy for Speeding Up Stochastic Local Search

Thomas Weise, Zijun Wu+1 more|arXiv (Cornell University)|Jun 23, 2018

Metaheuristic Optimization Algorithms Research参考文献 32被引用 3

一句话总结

本文提出了一种增强的通用 BET-AND-RUN 策略，用于随机局部搜索，通过在早期运行时间轨迹上使用先进决策模型（如多项式拟合和神经网络）来预测并选择最有希望的运行进行继续执行，从而在现有方法的基础上实现改进。该方法显著提高了在固定时间预算内找到最佳最终解的可能性，在许多情况下优于标准重启策略和先前的 currentBest 基线方法。

ABSTRACT

A commonly used strategy for improving optimization algorithms is to restart the algorithm when it is believed to be trapped in an inferior part of the search space. Building on the recent success of Bet-and-Run approaches for restarted local search solvers, we introduce an improved generic Bet-and-Run strategy. The goal is to obtain the best possible results within a given time budget t using a given black-box optimization algorithm. If no prior knowledge about problem features and algorithm behavior is available, the question about how to use the time budget most efficiently arises. We propose to first start k>=1 independent runs of the algorithm during an initialization budget t1=0 time units in doing so), and then continuing these runs for the remaining t3=t-t1-t2 time units. In previous Bet-and-Run strategies, the decision maker D=currentBest would simply select the run with the best- so-far results at negligible time. We propose using more advanced methods to discriminate between "good" and "bad" sample runs, with the goal of increasing the correlation of the chosen run with the a-posteriori best one. We test several different approaches, including neural networks trained or polynomials fitted on the current trace of the algorithm to predict which run may yield the best results if granted the remaining budget. We show with extensive experiments that this approach can yield better results than the previous methods, but also find that the currentBest method is a very reliable and robust baseline approach.

研究动机与目标

• 解决在缺乏问题或算法行为先验知识的情况下，高效分配固定时间预算的挑战。
• 改进仅依赖 currentBest 启发式方法进行运行选择的现有 BET-AND-RUN 策略。
• 探究基于运行时间轨迹的预测模型是否能更准确地识别出最有可能产生最佳最终解的运行。
• 评估多种决策模型（包括神经网络和多项式外推）相对于稳健的 currentBest 基线的性能表现。
• 提供一种可配置的、通用的 BET-AND-RUN 框架，可根据实例和求解器配置进行调整。

提出的方法

• 该方法将总时间预算 t 划分为三个阶段：t1（初始化）用于执行 k 次独立运行，t2（决策）用于评估并选择 m 次运行，t3（继续）用于运行选定的 m 次运行。
• 在第二阶段，决策模型 D 分析每次初始运行的（时间，质量）元组，以预测未来表现并选择 m ≥ 1 次运行进行继续执行。
• 决策模型 D 使用多种技术进行评估：currentBest（基线）、递减收益、三次多项式外推，以及使用不同优化方法训练的感知器（PER(0)、PER(1)）。
• 预测模型基于对数尺度或原始运行时间轨迹进行训练，以预测在剩余时间内哪次运行最有可能获得最佳解。
• 该方法在多种问题实例（MVC 和 TSP）上进行了评估，涵盖不同的总时间预算、k 值和决策策略。
• 所有实验数据和代码均已公开发布，以支持可复现性和进一步研究。

实验结果

研究问题

• RQ1 基于早期运行行为的预测模型是否能在 BET-AND-RUN 策略中，超越 currentBest 启发式方法，实现更优的运行选择？
• RQ2 不同机器学习和曲线拟合技术在从一组初始试验中预测最佳表现运行方面，表现如何比较？
• RQ3 改进后的 BET-AND-RUN 策略性能是否依赖于总时间预算、问题实例或初始运行次数 k？
• RQ4 currentBest 策略是否仍然是一个强大的基线？在哪些场景下其性能优于更复杂的预测器？
• RQ5 针对特定实例配置决策模型和预算分配，是否能带来一致的性能提升？

主要发现

• 采用先进决策模型（如多项式外推和训练后的感知器）的改进 BET-AND-RUN 策略，在多个问题实例和时间预算下，始终优于先前的 F17 基线。
• 在 50% 至 60% 的情况下，新方法优于 currentBest 基线，尤其在较长时间预算下表现更优。
• PER(0) 和 PER(1) 神经网络预测器表现出色，其中 PER(1) 在 t=2000s 时于 MVC 问题上实现了 36% 的成功率，超越 F17。
• 尽管简单快速，递减收益启发式方法表现惊人，其在 MVC 问题上 t=2000s 时有 58% 的案例优于 F17。
• currentBest 方法依然是一个高度可靠且稳健的基线，在某些场景下（如小预算或高方差）甚至优于更复杂的模型。
• 使用 Wilcoxon 秩和检验的统计分析表明，改进策略在 20 个测试配置中的 16 个中显著优于 F17，且在 MVC 和 TSP 于 t=2000s 时的饼图中，红色（表现更优）占据主导地位。