[论文解读] Acquiring Maps of Interrelated Conjectures on Sharp Bounds

Beldiceanu, Nicolas, Cheukam-Ngouonou, Jovial+3 more|arXiv (Cornell University)|Jan 1, 2022

Multimodal Machine Learning Applications被引用 9

一句话总结

本文提出了 CombOptNet，一种可微分神经网络层，通过端到端学习成本系数和约束条件，将整数线性规划（ILP）求解器集成其中。通过利用信息量丰富的梯度近似实现对黑箱 ILP 求解器的反向传播，CombOptNet 允许模型联合学习特征提取与组合问题的规范，无需事先了解底层的 NP-难结构，在关键点匹配任务上实现了最先进性能。

ABSTRACT

To automate the discovery of conjectures on combinatorial objects, we introduce the concept of a map of sharp bounds on characteristics of combinatorial objects, that provides a set of interrelated sharp bounds for these combinatorial objects. We then describe a Bound Seeker, a CP-based system, that gradually acquires maps of conjectures. The system was tested for searching conjectures on bounds on characteristics of digraphs: it constructs sixteen maps involving 431 conjectures on sharp lower and upper-bounds on eight digraph characteristics.

研究动机与目标

• 通过使神经网络能够端到端训练，联合学习特征与组合问题规范，弥合符号推理与深度学习之间的鸿沟。
• 通过为整数规划中的成本项和约束提供梯度近似，解决离散组合优化中的不可微性问题。
• 在不损害求解器性能的前提下，使黑箱 ILP 求解器可作为深度架构中的可微分层使用。
• 通过从原始数据和自然语言中学习多样化的 NP-难问题（如 KNAPSACK 和关键点匹配），展示通用的组合表达能力。
• 表明单一、任务无关的 ILP 层可通过 CombOptNet 训练，在真实世界视觉任务中达到或接近专用求解器的性能。

提出的方法

• 提出整数线性规划（ILP）的反向传播方法，可计算关于成本向量（c）和约束系数（A, b）的梯度，从而实现端到端反向传播。
• 通过 KKT 条件对离散 ILP 解进行连续松弛，并应用隐式微分法计算通过求解器输出的梯度。
• 使用 Karush–Kuhn–Tucker（KKT）条件与活动集方法，对 ILP 解映射 (A, b, c) → y(A, b, c) 构造可微分近似。
• 将 ILP 层作为模块集成到深度神经网络中，其中从原始输入（如图像或文本）提取特征，并用于参数化 ILP 的成本与约束项。
• 在前向传播中利用黑箱 ILP 求解器（如 Gurobi）确保解的质量最优，同时在反向传播中通过隐式微分法计算梯度。
• 将该方法应用于合成逆优化任务和真实世界的关键点匹配任务，从自然语言和图像数据中学习约束。

实验结果

研究问题

• RQ1 我们能否训练一个神经网络，以端到端可微的方式联合学习 ILP 的成本函数与组合约束？
• RQ2 通过在黑箱 ILP 求解器上进行梯度反向传播学习约束，是否能提升组合推理任务中的泛化能力与性能？
• RQ3 一个经过 CombOptNet 训练的单一、通用 ILP 层，是否能在无架构先验的情况下，在真实世界视觉任务中实现有竞争力的性能？
• RQ4 当仅提供一元成本时，CombOptNet 的性能与专用求解器相比如何？
• RQ5 该方法能否从自然语言描述中恢复出已知的组合结构（如 KNAPSACK）？

主要发现

• 在关键点匹配基准上，CombOptNet 仅使用一元成本即在 4×4 匹配任务中达到 83.1% 的准确率，接近 BB-GM（最先进的方法，可访问一元与二次成本）的 84.3% 准确率。
• 当仅限于一元成本时，CombOptNet 在 5×5 任务上的性能（80.7%）与 BB-GM 的完整架构性能（82.9%）相差仅 1.3 个百分点，表明其在无结构先验知识下具有强大的泛化能力。
• 在 KNAPSACK 逆优化任务中，CombOptNet 从纯文本描述中成功恢复出约束条件，并在合成实例上取得高准确率，显示出对自然语言输入的鲁棒性。
• 尽管是任务无关的 ILP 层，CombOptNet 在具有竞争力的计算机视觉关键点匹配基准上实现了最先进性能，优于 MLP 和 CVXPY 基线模型，并接近 LPmax（LP 松弛的理论最优上界）。
• 通过隐式微分法实现的梯度近似，使模型在不修改或软化 ILP 求解器的前提下实现有效训练，同时保持其最优解质量。
• 消融实验确认，同时学习成本项与约束项至关重要，固定约束的模型性能显著下降。