[论文解读] DeepLogic: Towards End-to-End Differentiable Logical Reasoning

Nuri Cingillioglu, Alessandra Russo|arXiv (Cornell University)|May 18, 2018

Topic Modeling参考文献 40被引用 6

一句话总结

本文提出 DeepLogic，一种端到端可微分的神经网络，通过基于 RNN 的迭代网络学习在符号逻辑程序上进行逻辑推理。该研究提出一个包含 12 类逻辑程序的合成数据集，并证明模型能够学习表示原子、文字和规则，同时执行多跳推理，尽管随着推理深度增加和嵌入空间限制，性能有所下降。

ABSTRACT

Combining machine learning with logic-based expert systems in order to get the best of both worlds are becoming increasingly popular. However, to what extent machine learning can already learn to reason over rule-based knowledge is still an open problem. In this paper, we explore how symbolic logic, defined as logic programs at a character level, is learned to be represented in a high-dimensional vector space using RNN-based iterative neural networks to perform reasoning. We create a new dataset that defines 12 classes of logic programs exemplifying increased level of complexity of logical reasoning and train the networks in an end-to-end fashion to learn whether a logic program entails a given query. We analyse how learning the inference algorithm gives rise to representations of atoms, literals and rules within logic programs and evaluate against increasing lengths of predicate and constant symbols as well as increasing steps of multi-hop reasoning.

研究动机与目标

• 探究神经网络是否能从零开始学习符号逻辑推理，而无需预先存在的符号推理引擎。
• 构建一个包含 12 种逐步复杂的逻辑程序类别的合成数据集，以评估端到端可微分推理。
• 分析基于 RNN 的网络如何在连续向量空间中表示符号元素（原子、文字、规则）。
• 评估模型在更长的谓词和常量符号长度以及更多跳数的推理步骤中的泛化能力。
• 探索通过梯度反向传播支持规则归纳的可微分近似推理引擎的可行性。

提出的方法

• 该模型将逻辑程序作为字符级序列处理，使用具有迭代推理机制的循环神经网络（RNN）。
• 采用固定架构并在所有逻辑程序间共享权重，通过在蕴含查询上使用二元交叉熵损失进行端到端训练。
• 网络通过迭代更新隐藏状态，模拟知识库上的逆向链推理，实现多跳推理。
• 每个逻辑程序被编码为字符序列，仅在字符级别应用独热编码，而非谓词或常量级别。
• 模型被训练以预测给定查询是否被逻辑程序蕴含，标签为 1（蕴含）或 0（不蕴含）。
• 训练过程按 12 个任务类别的复杂度递增顺序，采用课程学习策略。

实验结果

研究问题

• RQ1 神经网络是否能在没有预先存在的符号推理规则或实例化的情况下，学习对符号逻辑程序执行逻辑推理？
• RQ2 嵌入空间中学习到的原子、文字和规则的表示如何反映逻辑结构和关系？
• RQ3 该模型在多长的谓词和常量名称以及更深的多跳推理链上能实现多大程度的泛化？
• RQ4 课程学习是否提升了模型学习更复杂推理任务的能力？
• RQ5 该模型的可微分特性是否能通过基于梯度的优化，支持未来的规则归纳？

主要发现

• 该模型成功地在连续向量空间中学习表示符号元素，如原子、文字和规则，且当不同常量产生相同逻辑结论时，它们在训练过程中会聚类。
• 随着推理步骤数量的增加，性能显著下降，表明隐藏状态在保持长期推理连贯性方面存在局限。
• 课程学习未带来明显优势，表明模型未学习到与 Prolog 等符号系统相当的可泛化推理算法。
• 该网络无法泛化到现有的逻辑程序基准测试，也无法替代符号推理引擎，表明其尚未在性能上超越传统系统。
• 尽管模型完全可微分，但在长推理链中仍会丢失追踪，凸显隐藏状态容量和记忆保持能力的局限。
• 结果表明，虽然可微分推理是可行的，但需要更稳健的架构，才能使此类模型最终成为符号专家系统的可行替代方案。