[论文解读] Few-shots Parallel Algorithm Portfolio Construction via Co-evolution

Ke Tang, Shengcai Liu+2 more|arXiv (Cornell University)|Jul 1, 2020

Metaheuristic Optimization Algorithms Research参考文献 42被引用 5

一句话总结

本文提出协同参数化搜索（CEPS），一种协同进化框架，通过联合演化算法配置与合成问题实例，以极少的训练实例构建可泛化的并行算法组合（PAP）。CEPS通过暴露配置于多样化、对抗性生成的实例，提升泛化能力，从而在未见问题上表现更优，并在TSP与VRPSPDTW问题上取得新的最佳已知解。

ABSTRACT

Generalization, i.e., the ability of solving problem instances that are not available during the system design and development phase, is a critical goal for intelligent systems. A typical way to achieve good generalization is to learn a model from vast data. In the context of heuristic search, such a paradigm could be implemented as configuring the parameters of a parallel algorithm portfolio (PAP) based on a set of training problem instances, which is often referred to as PAP construction. However, compared to traditional machine learning, PAP construction often suffers from the lack of training instances, and the obtained PAPs may fail to generalize well. This paper proposes a novel competitive co-evolution scheme, named Co-Evolution of Parameterized Search (CEPS), as a remedy to this challenge. By co-evolving a configuration population and an instance population, CEPS is capable of obtaining generalizable PAPs with few training instances. The advantage of CEPS in improving generalization is analytically shown in this paper. Two concrete algorithms, namely CEPS-TSP and CEPS-VRPSPDTW, are presented for the Traveling Salesman Problem (TSP) and the Vehicle Routing Problem with Simultaneous Pickup-Delivery and Time Windows (VRPSPDTW), respectively. Experimental results show that CEPS has led to better generalization, and even managed to find new best-known solutions for some instances.

研究动机与目标

• 解决在仅有少量训练实例时并行算法组合（PAP）构建中泛化能力差的挑战。
• 通过在配置调优过程中动态生成多样化、具有挑战性的问题实例，克服对有限训练实例的过拟合。
• 实现在真实场景中问题实例集较小且不具代表性时的有效PAP构建。
• 提升启发式求解器在如TSP与VRPSPDTW等NP难组合问题的未见实例上的鲁棒性与适应性。
• 开发一种协同进化框架，同时演化配置与实例生成器，以增强整体求解器性能与泛化能力。

提出的方法

• 提出一种协同进化系统，其中两组种群——配置（PAP组件）与合成问题实例——通过竞争性交互协同进化。
• 使用多目标进化算法优化配置在不断演化、多样化实例上的性能，以解的质量与多样性作为适应度指标。
• 引入实例生成器（如爆炸、内爆、旋转等）以生成暴露现有配置弱点的合成TSP与VRPSPDTW实例。
• 采用四阶段计算预算分配：初始化、配置进化、实例进化与验证，各阶段时间限制为$t_{\text{init}}$、$t_c$、$t_v$与$t_i$。
• 将该框架应用于两个真实问题：TSP（通过CEPS-TSP）与VRPSPDTW（通过CEPS-VRPSPDTW），并使用领域特定的实例生成器。
• 通过允许未来与基于梯度的优化方法（如通过强化学习训练的神经网络）集成，引入基于梯度的优化潜力。

实验结果

研究问题

• RQ1 配置与合成实例之间的协同进化是否能超越传统配置方法，显著提升并行算法组合的泛化能力？
• RQ2 在仅有少量训练实例时，CEPS在构建对未见问题实例表现良好的PAP方面效果如何？
• RQ3 CEPS在多大程度上能生成具有挑战性且多样化的实例，以暴露现有配置的弱点并提升其鲁棒性？
• RQ4 协同进化过程是否导致在TSP与VRPSPDTW等基准问题中发现新的最佳已知解？
• RQ5 在相似时间预算下，CEPS与现有PAP构建方法（如GLOBAL、PCIT与PARHYDRA）相比，在计算效率与解质量方面表现如何？

主要发现

• 与基线方法相比，CEPS在未见TSP与VRPSPDTW实例上的泛化性能显著提升，即使仅使用少量训练实例。
• 该方法成功为多个TSP与VRPSPDTW实例发现了新的最佳已知解，证明其能发现高质量配置。
• 在TSP上总CPU时间320小时、VRPSPDTW上1312小时的条件下，CEPS实现了与GLOBAL与PARHYDRA等方法相当或更优的性能，计算时间约束相似。
• 协同进化过程生成了多样化且具挑战性的合成实例，有效暴露了配置的弱点，从而构建出更鲁棒的PAP。
• CEPS中使用的实例生成器（如爆炸、内爆、网格变异）有效生成了非均匀、难解的实例，提升了配置的鲁棒性。
• 作者已将生成的实例集公开，以支持算法配置与泛化研究的进一步发展。