[论文解读] Deep Adaptive Semantic Logic (DASL): Compiling Declarative Knowledge into Deep Neural Networks

Karan Sikka, Andrew Silberfarb+5 more|arXiv (Cornell University)|Mar 16, 2020

Topic Modeling参考文献 45被引用 6

一句话总结

本文提出了深度自适应语义逻辑（DASL），一种将一阶逻辑知识编译为可微分深度神经网络的框架，采用基于logit的真值表示以避免梯度消失。通过在单一端到端可训练模型中统一数据与声明性知识，DASL在玩具MNIST任务中将数据需求减少了1,000倍，并在低数据环境下将视觉关系检测性能提升了10.7%。

ABSTRACT

We introduce Deep Adaptive Semantic Logic (DASL), a novel framework for automating the generation of deep neural networks that incorporates user-provided formal knowledge to improve learning from data. We provide formal semantics that demonstrate that our knowledge representation captures all of first order logic and that finite sampling from infinite domains converges to correct truth values. DASL's representation improves on prior neural-symbolic work by avoiding vanishing gradients, allowing deeper logical structure, and enabling richer interactions between the knowledge and learning components. We illustrate DASL through a toy problem in which we add structure to an image classification problem and demonstrate that knowledge of that structure reduces data requirements by a factor of $1000$. We then evaluate DASL on a visual relationship detection task and demonstrate that the addition of commonsense knowledge improves performance by $10.7\%$ in a data scarce setting.

研究动机与目标

• 通过在单一框架中统一符号知识表示与深度学习的高数据需求，解决其脆弱性问题。
• 使深度神经网络能够整合以一阶逻辑表达的正式、用户提供的声明性知识。
• 通过使用基于logit的真值表示而非模糊逻辑，克服神经符号系统中的梯度消失问题。
• 证明DASL支持完整的一阶逻辑，包括嵌套量词、函数和等式，并具备形式上的正确性与完备性。
• 通过在视觉任务中整合结构化知识，减少数据需求并提升低数据环境下的泛化能力。

提出的方法

• 将领域关系与函数表示为可重用、可学习的神经网络，支持任意网络架构。
• 通过使用逻辑连接词组合神经组件，将一阶逻辑断言编译为单一深度神经网络。
• 采用基于logit的真值表示（实数值，无界），以在反向传播过程中保持梯度流动，避免梯度消失。
• 将标签视为逻辑断言，统一监督学习、半监督学习、无监督学习与远程监督学习于同一训练范式下。
• 通过小批量采样处理无限域，证明在极限情况下收敛至正确的真值。
• 通过语法扩展支持受限量词与混合网络架构，同时不违反一阶逻辑约束。

实验结果

研究问题

• RQ1 是否能够自动从以一阶逻辑表达的声明性知识中编译出保持可微性的深度神经网络？
• RQ2 神经符号系统中基于logit的真值表示是否能防止梯度消失，并支持更深层次的逻辑结构？
• RQ3 DASL能否对完整的一阶逻辑（包括量词与等式）实现正确性与完备性？
• RQ4 在标注数据有限的视觉任务中，整合常识知识在多大程度上能减少数据需求？
• RQ5 与标准深度学习基线相比，DASL在零样本与低数据设置下如何提升模型泛化能力与性能？

主要发现

• 通过将算术约束作为声明性知识整合，DASL在修改后的MNIST数字分类任务中实现了1,000倍的数据需求减少。
• 在视觉关系检测（VRD）数据集上，当仅使用1%的训练数据时，DASL将召回率提升了10.7%（从59.4%提升至70.1%），表明在数据稀缺环境下具有显著性能优势。
• 性能提升在低数据环境（如1%数据）和零样本设置中更为显著，此时知识作为强正则化器发挥作用。
• 在知识增强的VGG-SS模型中，R@100的召回率达到78.5%，相比基线提升1.4个百分点，且具有统计显著性（p < 0.01）。
• DASL的形式语义证明了对完整一阶逻辑（包括嵌套量词与等式）的正确性与完备性，且在有限采样下具备收敛保证。
• 基于logit的真值表示支持在复杂逻辑结构中稳定反向传播，克服了先前基于模糊逻辑方法的局限性。