[论文解读] Neural Symbolic Machines: Learning Semantic Parsers on Freebase with Weak Supervision (Short Version)

Liang Chen, Jonathan Berant+3 more|arXiv (Cornell University)|Dec 4, 2016

Natural Language Processing Techniques参考文献 15被引用 7

一句话总结

本文提出神经符号机器（NSM），一种结合序列到序列神经程序员与不可微分Lisp解释器计算机的框架，通过弱监督学习语义解析器。NSM在WebQuestionsSP基准上实现了最先进性能，无需特征工程或领域特定规则，采用近似黄金程序的REINFORCE算法实现高效训练。

ABSTRACT

Extending the success of deep neural networks to natural language understanding and symbolic reasoning requires complex operations and external memory. Recent neural program induction approaches have attempted to address this problem, but are typically limited to differentiable memory, and consequently cannot scale beyond small synthetic tasks. In this work, we propose the Manager-Programmer-Computer framework, which integrates neural networks with non-differentiable memory to support abstract, scalable and precise operations through a friendly neural computer interface. Specifically, we introduce a Neural Symbolic Machine, which contains a sequence-to-sequence neural "programmer", and a non-differentiable "computer" that is a Lisp interpreter with code assist. To successfully apply REINFORCE for training, we augment it with approximate gold programs found by an iterative maximum likelihood training process. NSM is able to learn a semantic parser from weak supervision over a large knowledge base. It achieves new state-of-the-art performance on WebQuestionsSP, a challenging semantic parsing dataset, with weak supervision. Compared to previous approaches, NSM is end-to-end, therefore does not rely on feature engineering or domain specific knowledge.

研究动机与目标

• 解决神经程序归纳中可微分记忆在符号推理与复杂操作方面的局限性。
• 通过不可微分、高层级的编程构造，在语义解析中实现可扩展、精确且抽象的推理。
• 从弱监督端到端训练语义解析器，避免手动特征工程与领域特定知识。
• 通过提供代码辅助的友好神经计算机接口，显著缩小程序生成的搜索空间。
• 在真实世界语义解析基准（如WebQuestionsSP）上实现最先进性能。

提出的方法

• NSM框架采用经理-程序员-计算机架构：经理通过输入与奖励提供弱监督，程序员从自然语言生成程序，计算机执行程序。
• 程序员是一个序列到序列神经网络，配备关键-变量记忆，用于存储并重用中间结果，实现组合推理。
• 计算机是一个不可微分的Lisp解释器，可在Freebase上执行程序，支持抽象、可扩展且精确的操作。
• 计算机中的代码辅助功能可检测语法与语义错误，从而缩小程序员的搜索空间。
• 训练采用REINFORCE算法，并通过迭代最大似然训练获得的近似黄金程序进行增强，以稳定学习过程。
• 对问题应用实体链接，将命名实体替换为特殊标记，同时对Freebase进行预处理，仅保留相关的关系与实体。

实验结果

研究问题

• RQ1 神经程序归纳模型能否有效利用不可微分、高层级记忆，从弱监督中学习语义解析？
• RQ2 当不可微分记忆导致反向传播不可用时，如何训练神经程序员以生成正确程序？
• RQ3 具有代码辅助的神经计算机接口能否显著缩小语义解析中程序生成的搜索空间？
• RQ4 将符号解释器与神经网络结合，是否能提升真实世界语义解析任务中的泛化能力与性能？
• RQ5 端到端神经模型能否超越依赖特征工程或强监督的先前系统？

主要发现

• NSM在WebQuestionsSP基准上实现了新的最先进平均F1得分为69.0，优于先前方法。
• 模型在平均精确率上达到70.9%，平均召回率达到74.8%，各项指标表现强劲。
• NSM在准确率@1上达到59.4%，表明其能精确回答近60%的问题。
• 该模型为端到端设计，无需任何特征工程或领域特定规则，与先前方法形成对比。
• 训练中使用近似黄金程序显著加速收敛并提升优化稳定性。
• Lisp解释器与代码辅助的集成，使模型能够实现超越可微分记忆模型能力的精确、可扩展且抽象的推理。