[论文解读] Matrix Encoding Networks for Neural Combinatorial Optimization

Yeong‐Dae Kwon, Jinho Choo+4 more|arXiv (Cornell University)|Jun 21, 2021

Metaheuristic Optimization Algorithms Research参考文献 36被引用 16

一句话总结

本文提出了矩阵编码网络（MatNet），一种深度学习架构，旨在对组合优化问题中的矩阵结构化关系数据进行编码。通过处理两组项目之间的距离或交互矩阵，MatNet 实现了对以往未解决的问题（如非对称TSP和灵活流水车间调度）的端到端神经求解器，其近似最优解显著优于传统的MIP和元启发式方法。

ABSTRACT

Machine Learning (ML) can help solve combinatorial optimization (CO) problems better. A popular approach is to use a neural net to compute on the parameters of a given CO problem and extract useful information that guides the search for good solutions. Many CO problems of practical importance can be specified in a matrix form of parameters quantifying the relationship between two groups of items. There is currently no neural net model, however, that takes in such matrix-style relationship data as an input. Consequently, these types of CO problems have been out of reach for ML engineers. In this paper, we introduce Matrix Encoding Network (MatNet) and show how conveniently it takes in and processes parameters of such complex CO problems. Using an end-to-end model based on MatNet, we solve asymmetric traveling salesman (ATSP) and flexible flow shop (FFSP) problems as the earliest neural approach. In particular, for a class of FFSP we have tested MatNet on, we demonstrate a far superior empirical performance to any methods (neural or not) known to date.

研究动机与目标

• 解决现有神经网络模型在组合优化问题中无法处理矩阵形式关系数据的问题。
• 实现对经典NP难问题（如非对称TSP和灵活流水车间调度）的端到端基于深度学习的求解器，这些问题是此前神经网络未能解决的。
• 证明基于MatNet学习的神经启发式方法在解的质量和推理速度方面均优于成熟的运筹学方法，包括混合整数规划和元启发式方法。
• 提供一种排列不变、可扩展且通用的编码器，用于矩阵类型数据，能够捕捉两组不同项目之间的全局结构关系。

提出的方法

• MatNet处理表示两组无序项目集 $\tilde{A}$ 和 $\tilde{B}$ 之间成对关系的矩阵 $\mathbf{D} \in \mathbb{R}^{M \times N}$，在行和列上保持排列不变性。
• 该模型采用共享权重的双分支编码器，对两组项目进行嵌入，利用多头注意力机制和前馈网络聚合矩阵中的关系信息。
• 通过应用可学习的位置编码来处理项目之间的相对顺序，同时通过对称聚合保持对行和列排列的不变性。
• 最终得到的 $\tilde{A}$ 和 $\tilde{B}$ 中项目表示被用作强化学习策略网络的输入，以在端到端训练中进行贪心解构造。
• 通过独立处理每个特征通道（例如 $f > 1$）并在之后融合，该框架支持多特征矩阵，从而能够建模复杂关系。
• 模型通过强化学习进行训练，采用策略梯度目标，优化调度问题中的完工时间最小化和TSP问题中的旅行路线长度最小化。

实验结果

研究问题

• RQ1 深度神经网络能否有效编码组合优化问题中表示两组无序项目之间成对关系的矩阵结构化数据？
• RQ2 MatNet能否实现端到端的神经求解器，在非对称TSP和灵活流水车间调度等经典NP难问题上达到最先进性能？
• RQ3 基于MatNet学习的神经启发式方法是否在解的质量和推理速度方面均优于传统运筹学方法（包括混合整数规划和元启发式方法）？
• RQ4 MatNet在不同问题实例和规模下的泛化能力如何，特别是在具有密集、固定矩阵结构的问题中？

主要发现

• 在灵活流水车间调度（FFSP）问题中，基于MatNet的强化学习在100个作业实例上实现了平均完工时间89.7，优于所有传统方法（包括MIP和元启发式方法），后者在600秒内未能找到有效解。
• 在50个作业的FFSP实例上，MatNet实现了平均完工时间49.6，单次实例推理时间仅8分钟，而CPLEX在600秒超时下需6小时。
• 在非对称TSP问题中，MatNet在100个城市实例上实现了平均旅行路线长度51.5，推理时间仅14秒，远快于基线方法。
• 即使在延长至48小时的时间预算下，传统运筹学方法（如CPLEX和PSO）仍无法超越MatNet的性能，证实其在解质量上的优越性。
• 在20个作业的FFSP实例上，MatNet模型与最优解的差距为27.3%，通过128倍数据增强后提升至25.4%，展现出强大的可扩展性和泛化能力。
• 该模型在不同问题规模和配置下表现稳健，无论在运行时间还是解质量方面，均持续优于启发式和精确方法。