[论文解读] Injecting Logical Constraints into Neural Networks via Straight-Through Estimators

Zhun Yang, Joohyung Lee+1 more|arXiv (Cornell University)|Jul 10, 2023

Neural Networks and Applications被引用 4

一句话总结

本文提出 CL-STE，一种通过直通估计器（STE）将离散逻辑约束注入神经网络的方法，实现可微训练。通过将命题逻辑约束编码为可微损失函数，并利用 STE 实现梯度反向传播，该方法实现了可扩展的、GPU 加速的神经符号学习，在最短路径预测和半监督分类等任务上，训练速度优于符号方法，同时保持了准确性。

ABSTRACT

Injecting discrete logical constraints into neural network learning is one of the main challenges in neuro-symbolic AI. We find that a straight-through-estimator, a method introduced to train binary neural networks, could effectively be applied to incorporate logical constraints into neural network learning. More specifically, we design a systematic way to represent discrete logical constraints as a loss function; minimizing this loss using gradient descent via a straight-through-estimator updates the neural network's weights in the direction that the binarized outputs satisfy the logical constraints. The experimental results show that by leveraging GPUs and batch training, this method scales significantly better than existing neuro-symbolic methods that require heavy symbolic computation for computing gradients. Also, we demonstrate that our method applies to different types of neural networks, such as MLP, CNN, and GNN, making them learn with no or fewer labeled data by learning directly from known constraints.

研究动机与目标

• 为解决将离散逻辑约束整合到神经网络训练中的挑战，该挑战因逻辑运算的不可微性而变得困难。
• 克服现有神经符号方法在梯度计算中依赖昂贵的符号计算（如加权模型计数或求解器调用）所导致的计算瓶颈。
• 开发一种可扩展的可微框架，支持使用标准深度学习流水线对带有显式逻辑约束的神经网络进行端到端训练。
• 在多种架构（MLP、CNN、GNN）和学习范式（监督、半监督）下，通过极少的标注数据，证明 CL-STE 的有效性。

提出的方法

• 该方法将逻辑约束以合取范式（CNF）形式编码为可微损失函数 $ L_{cnf} $，用于衡量网络输出对逻辑子句的违反程度。
• 在神经网络的二值化输出上应用直通估计器（STE），即使在二值化函数不可微的情况下，也能实现反向传播中的梯度流动。
• 二值化函数 $ b(x) $ 将实值 logits 映射为二值输出（0 或 1），STE 在反向传播期间用连续松弛函数的梯度替代 $ b(x) $ 的零梯度。
• 总损失结合了逻辑约束损失 $ L_{cnf} $ 和标准交叉熵损失 $ L_{cross} $，通过超参数 $ \alpha $ 平衡两者。
• 该方法使用训练门控函数（TGF）作为二值化过程的可微代理，实现引导网络向满足逻辑约束方向更新的梯度更新。
• 该方法兼容多种神经网络架构（MLP、CNN、GNN），支持 GPU 上的批量训练，显著提升了训练效率，优于符号替代方案。

实验结果

研究问题

• RQ1 能否将命题逻辑表达的逻辑约束有效编码为神经网络训练的可微损失函数？
• RQ2 直通估计器（STE）能否被有效适配，以实现基于梯度的优化，从而在离散逻辑约束下训练神经网络？
• RQ3 CL-STE 是否在显著降低训练时间的同时，实现与现有神经符号方法相当或更优的性能，通过 GPU 加速的可微训练实现？
• RQ4 CL-STE 是否能在多种神经网络架构（MLP、CNN、GNN）和学习场景（监督、半监督）中实现良好泛化？

主要发现

• 在最短路径问题中，CL-STE 仅用 179 秒即达到与 NeurASP 相当的测试准确率，而 NeurASP 因依赖符号计算，训练时间显著更长。
• 在 MNIST 和 Fashion-MNIST 数据集上，CL-STE 的分类准确率与 Xu 等人（2018）提出的语义损失方法相当，训练时间约为 10 分钟，而原方法约为 12 分钟。
• 在 CPU 上训练时，与语义损失方法相比，CL-STE 将训练时间减少了约 10 倍，且在处理复杂约束时仍保持高效。
• 在最短路径问题中，CL-STE 在 179 秒内达到 85% 准确率（基线为 83% 在 83 秒），优于语义损失方法，后者在 CPU 上耗时 1032 秒仅达到 30.75% 准确率。
• 该方法通过批量训练和 GPU 加速，展现出良好的可扩展性和效率，避免了构建算术电路或调用符号求解器的计算开销。