[论文解读] How to Evaluate Machine Learning Approaches for Combinatorial Optimization: Application to the Travelling Salesman Problem

Antoine François, Quentin Cappart+1 more|arXiv (Cornell University)|Sep 28, 2019

Metaheuristic Optimization Algorithms Research参考文献 32被引用 11

一句话总结

本文提出了一种新的评估指标——最优决策比率（ROD），用于隔离并衡量组合优化模型中机器学习组件的准确性，特别是在旅行商问题（TSP）中的应用。尽管最先进（SOTA）的机器学习模型仅实现了约1.33%的最优性差距，但ROD显示其学习组件的表现与高度准确的虚拟最优解（oracle）相当，表明性能提升的重点应放在改进搜索算法而非学习模型本身。

ABSTRACT

Combinatorial optimization is the field devoted to the study and practice of algorithms that solve NP-hard problems. As Machine Learning (ML) and deep learning have popularized, several research groups have started to use ML to solve combinatorial optimization problems, such as the well-known Travelling Salesman Problem (TSP). Based on deep (reinforcement) learning, new models and architecture for the TSP have been successively developed and have gained increasing performances. At the time of writing, state-of-the-art models provide solutions to TSP instances of 100 cities that are roughly 1.33% away from optimal solutions. However, despite these apparently positive results, the performances remain far from those that can be achieved using a specialized search procedure. In this paper, we address the limitations of ML approaches for solving the TSP and investigate two fundamental questions: (1) how can we measure the level of accuracy of the pure ML component of such methods; and (2) what is the impact of a search procedure plugged inside a ML model on the performances? To answer these questions, we propose a new metric, ratio of optimal decisions (ROD), based on a fair comparison with a parametrized oracle, mimicking a ML model with a controlled accuracy. All the experiments are carried out on four state-of-the-art ML approaches dedicated to solve the TSP. Finally, we made ROD open-source in order to ease future research in the field.

研究动机与目标

• 为解决组合优化中机器学习组件缺乏公平评估的问题，特别是在TSP求解器中的应用。
• 解耦机器学习方法中学习与搜索的贡献。
• 提出一种标准化、开源的指标（ROD），用于在独立于搜索启发式算法的前提下评估机器学习模型的内在准确性。
• 通过实证研究证明，当前用于TSP的机器学习模型的性能限制并非源于学习质量，而是源于搜索算法的设计。
• 引导未来研究将重点放在改进搜索算法，而非重新训练模型。

提出的方法

• 提出ROD，一种基于参数化虚拟最优解（oracle）的指标，可模拟具有可控决策准确率的机器学习模型。
• 利用该虚拟最优解，将模型做出的最优决策比例与已知准确率的基准进行比较。
• 将ROD应用于四种最先进的TSP深度学习模型：Kool等人、Joshi等人、Deudon等人和Khalil等人。
• 在有无搜索算法（如束搜索、2-OPT、LK、3-OPT）的情况下评估模型，以隔离搜索算法的影响。
• 通过1000个100个顶点的TSP实例，测量最优性差距和执行时间。
• 开源ROD指标，以促进可复现性，并推动未来在组合优化问题（COPs）中机器学习的基准测试。

实验结果

研究问题

• RQ1 如何在独立于搜索算法的前提下，公平评估机器学习模型在组合优化中的学习组件？
• RQ2 当前基于机器学习的TSP求解器的性能在多大程度上依赖于学习组件的质量，而非搜索算法？
• RQ3 我们能否使用受控的虚拟最优解基准，量化学习模型在单个决策中的准确性？
• RQ4 不同搜索算法（如束搜索、LK、2-OPT）对基于机器学习的TSP模型最终解质量的相对影响是什么？
• RQ5 最先进模型的学习组件是否已达到接近虚拟最优解的性能水平，从而表明改进应聚焦于搜索算法而非学习模型？

主要发现

• 最先进TSP模型的学习组件表现水平与准确率为90%的虚拟最优解相当，表明其具备强大的内在学习能力。
• 即使最优性差距达到7.05%，最佳模型（Joshi等人）的ROD得分仍达0.91，表明其在单步决策层面已接近最优。
• 引入搜索算法后，最优性差距从7.05%降至0.24%（使用束搜索与LK启发式），表明搜索算法带来了巨大的性能提升。
• 采用16束宽度的束搜索与LK局部搜索，将最佳模型的差距从7.05%降低至0.24%，凸显了搜索算法的主导作用。
• 不同模型对同一搜索算法的响应不同，表明搜索算法设计具有模型依赖性，且并非显而易见。
• ROD的开源发布为标准化评估提供了支持，并推动了COPs中混合学习-搜索方法的未来发展。