[论文解读] SurCo: Learning Linear Surrogates For Combinatorial Nonlinear Optimization Problems

Aaron Ferber, Taoan Huang+5 more|arXiv (Cornell University)|Oct 22, 2022

Metaheuristic Optimization Algorithms Research被引用 4

一句话总结

SurCo 通过反向传播通过线性求解器来学习组合非线性优化问题的线性代理成本，从而实现高效、基于梯度的优化。在嵌入分片、光子设计和路径规划等实际应用中，其性能优于当前最先进方法，且求解速度更快。

ABSTRACT

Optimization problems with nonlinear cost functions and combinatorial constraints appear in many real-world applications but remain challenging to solve efficiently compared to their linear counterparts. To bridge this gap, we propose $ extbf{SurCo}$ that learns linear $\underline{ ext{Sur}}$rogate costs which can be used in existing $\underline{ ext{Co}}$mbinatorial solvers to output good solutions to the original nonlinear combinatorial optimization problem. The surrogate costs are learned end-to-end with nonlinear loss by differentiating through the linear surrogate solver, combining the flexibility of gradient-based methods with the structure of linear combinatorial optimization. We propose three $ exttt{SurCo}$ variants: $ exttt{SurCo}- exttt{zero}$ for individual nonlinear problems, $ exttt{SurCo}- exttt{prior}$ for problem distributions, and $ exttt{SurCo}- exttt{hybrid}$ to combine both distribution and problem-specific information. We give theoretical intuition motivating $ exttt{SurCo}$, and evaluate it empirically. Experiments show that $ exttt{SurCo}$ finds better solutions faster than state-of-the-art and domain expert approaches in real-world optimization problems such as embedding table sharding, inverse photonic design, and nonlinear route planning.

研究动机与目标

• 使用高效、现成的求解器解决具有非线性、非凸成本函数的组合优化问题。
• 克服黑箱优化和启发式方法速度慢或无法保证组合可行性的问题。
• 通过学习保留问题结构的代理线性成本，弥合非线性目标与线性求解器之间的差距。
• 通过从问题实例描述中预测代理系数的模型训练，实现在不同问题实例间的泛化。
• 在 GPU 分片、光子设计和随机路由等实际领域提升求解质量和运行效率。

提出的方法

• 提出 SurCo-zero：通过反向传播穿过线性组合求解器，实现线性代理成本的端到端训练，以最小化非线性损失。
• 引入 SurCo-prior：训练模型从实例特定特征中预测代理系数，实现在未见问题上的快速推理。
• 开发 SurCo-hybrid：在单个测试实例上使用 SurCo-zero 对 SurCo-prior 的预测进行微调，结合分布级知识与实例级知识。
• 利用可微求解器计算通过代理解的非线性目标梯度，实现对代理系数的基于梯度的优化。
• 使用代理优化问题：min_x∈Ω ĉᵀx，其中 ĉ 由神经网络预测，x 为组合可行解。
• 使用反映真实目标的非线性、可微损失函数进行训练，使模型能够学习有效的线性近似。

实验结果

研究问题

• RQ1 学习线性代理成本是否能实现对非线性组合优化问题的高效且高质量求解？
• RQ2 与黑箱或启发式方法相比，通过线性求解器反向传播是否能提升样本效率和求解质量？
• RQ3 在问题分布上训练的模型是否能泛化到未见实例，同时保持高质量求解？
• RQ4 结合分布级先验与实例级微调是否能提升非线性优化中的性能？
• RQ5 SurCo 是否能在具有复杂非线性目标和组合约束的实际应用中超越最先进方法？

主要发现

• SurCo-zero 在嵌入表分片任务中达到优于最先进方法的求解质量，且运行时间相当或更低。
• SurCo-prior 在同一分布中未见问题的求解中优于强化学习和其他基于学习的方法。
• SurCo-hybrid 通过在单个实例上微调，优于 SurCo-prior，在非线性路径规划和光子设计中获得更高质量的解。
• 该方法比基线方法更快找到可行的光子器件，展示了在逆向设计中的实际应用价值。
• SurCo 在包括工业级应用如 GPU 分片和随机路径规划在内的多样化实际问题中表现出良好的泛化能力。
• 该框架表明，通过可微求解器学习线性代理，能够实现非线性组合问题的可扩展、高性能优化。