[论文解读] SATNet: Bridging deep learning and logical reasoning using a differentiable satisfiability solver

Po-Wei Wang, Priya L. Donti+2 more|arXiv (Cornell University)|May 29, 2019

graph theory and CDMA systems参考文献 29被引用 43

一句话总结

SATNet 引入了一个可微分的 MAXSAT 求解层，可以嵌入神经网络，实现端到端地学习和推理离散逻辑约束，在 parity、Sudoku 和视觉 Sudoku 任务上有所演示。

ABSTRACT

Integrating logical reasoning within deep learning architectures has been a major goal of modern AI systems. In this paper, we propose a new direction toward this goal by introducing a differentiable (smoothed) maximum satisfiability (MAXSAT) solver that can be integrated into the loop of larger deep learning systems. Our (approximate) solver is based upon a fast coordinate descent approach to solving the semidefinite program (SDP) associated with the MAXSAT problem. We show how to analytically differentiate through the solution to this SDP and efficiently solve the associated backward pass. We demonstrate that by integrating this solver into end-to-end learning systems, we can learn the logical structure of challenging problems in a minimally supervised fashion. In particular, we show that we can learn the parity function using single-bit supervision (a traditionally hard task for deep networks) and learn how to play 9x9 Sudoku solely from examples. We also solve a "visual Sudok" problem that maps images of Sudoku puzzles to their associated logical solutions by combining our MAXSAT solver with a traditional convolutional architecture. Our approach thus shows promise in integrating logical structures within deep learning.

研究动机与目标

• 激发将逻辑推理与深度学习结合，以处理难以处理的离散约束。
• 提出一个基于低秩 SDP 松弛的可微分 MAXSAT 求解器，作为神经网络层嵌入。
• 实现从数据中端到端学习逻辑结构，而无需硬编码规则。
• 展示对 parity 和 Sudoku 的学习能力，包括一个视觉 Sudoku 变体，使用最少监督。

提出的方法

• 将 MAXSAT 表述为一个以变量映射到单位向量的 SDP 松弛。
• 通过快速坐标下降法求解 SDP，并且可证明收敛到固定点。
• 对 SDP 解进行求导，以实现神经网络中的反向传播（解析/后向传播）。
• 实现一个低秩、GPU 加速的 SATNet 层，将输入放宽为连续向量，并通过概率四舍五入将输出转换。
• 将 SATNet 嵌入为更大网络中的可微分层（如 CNN + SATNet用于视觉 Sudoku）。
• 提供高效的前向和后向传播（算法 1、2、3）以及用于加速的 GPU 实现。

实验结果

研究问题

• RQ1 可否将可微分的 MAXSAT 松弛集成为神经网络中的一个层？
• RQ2 在多大程度上，端到端学习能够发现并利用离散逻辑结构，而无需手工编码规则？
• RQ3 SATNet 在最少监督（如对 parity 的单个位监督）和像 Sudoku 这样的复杂谜题中，能够多好地学习逻辑约束？
• RQ4 一个视觉的、图像到逻辑求解器的管线（视觉 Sudoku）能否端到端训练？

主要发现

模型	训练	测试
ConvNet (Original Sudoku)	72.6%	0.04%
ConvNetMask (Original Sudoku)	91.4%	15.1%
SATNet (Original Sudoku)	99.8%	98.3%
ConvNet (Permuted Sudoku)	0%	0%
ConvNetMask (Permuted Sudoku)	0.01%	0%
SATNet (Permuted Sudoku)	93.6%	63.2%

• 在前向和后向传播中，成功对基于 SDP 的 MAXSAT 求解器进行可微分传播。
• 在单位监督下学习 parity，并以高精度解决 9x9 Sudoku（原始：train 99.8%、test 98.3%）。
• 置换 Sudoku 实验表明 SATNet 可以在没有局部性假设的情况下学习约束（Test：train 93.6%、test 63.2%）。
• 视觉 Sudoku 实验通过将用于数字识别的 CNN 与 SATNet 结合，展示端到端学习能力（端到端性能令人满意）。
• GPU 加速的低秩 SDP 层为深度结构提供可扩展的集成（相对于 CPU 可提速 18–30x）。
• SATNet 在标准 Sudoku 基准测试中实现了较高的棋盘级准确率（98.3%），无需硬编码约束。