[论文解读] Coupling Distributed and Symbolic Execution for Natural Language Queries

Lili Mou, Zhengdong Lu+2 more|arXiv (Cornell University)|Dec 8, 2016

Topic Modeling参考文献 16被引用 5

一句话总结

本文提出了一种混合框架，将分布式神经执行与符号执行相结合，用于自然语言表格查询。通过在分布式神经执行器生成的中间输出上预训练符号执行器，该方法加速了强化学习训练，提高了准确率，并增强了可解释性和效率——在问答基准测试中优于纯神经模型和符号基线模型。

ABSTRACT

Building neural networks to query a knowledge base (a table) with natural language is an emerging research topic in deep learning. An executor for table querying typically requires multiple steps of execution because queries may have complicated structures. In previous studies, researchers have developed either fully distributed executors or symbolic executors for table querying. A distributed executor can be trained in an end-to-end fashion, but is weak in terms of execution efficiency and explicit interpretability. A symbolic executor is efficient in execution, but is very difficult to train especially at initial stages. In this paper, we propose to couple distributed and symbolic execution for natural language queries, where the symbolic executor is pretrained with the distributed executor's intermediate execution results in a step-by-step fashion. Experiments show that our approach significantly outperforms both distributed and symbolic executors, exhibiting high accuracy, high learning efficiency, high execution efficiency, and high interpretability.

研究动机与目标

• 解决在自然语言表格查询的符号执行中强化学习的冷启动问题。
• 通过利用可微分分布式执行器的中间结果作为监督信号，提升符号执行器的训练效率与执行准确率。
• 弥合端到端神经执行与可解释符号执行在语义解析中的差距。
• 实现在知识库上对复杂自然语言查询的高性能、可解释且高效的执行。

提出的方法

• 使用仅基于指称级别的监督，通过REINFORCE算法端到端训练一个完全可微分的分布式执行器，生成中间执行状态。
• 设计一个具有离散操作符（例如，argmax、greater_than）的符号执行器，并在预训练阶段学习模仿分布式执行器的逐步输出。
• 利用分布式模型生成的不完美中间监督初始化符号执行器，显著改善其初始策略并减少REINFORCE训练时间。
• 将训练良好的符号执行器用于提供逐步监督，以重新训练分布式执行器，从而提升其注意力机制与执行准确率。
• 该框架实现了符号模型与分布式模型之间的联合训练，通过反馈回路提升两个组件的性能。
• 探索知识蒸馏方法，利用分布式模型预测的动作分布来指导符号策略梯度训练。

实验结果

研究问题

• RQ1 来自分布式神经执行器的中间执行状态是否能有效预训练符号执行器，以克服强化学习中的冷启动问题？
• RQ2 将符号执行与分布式执行相结合，如何提升表格查询中的学习效率、执行准确率与可解释性？
• RQ3 在复杂自然语言查询中，基于不完美神经监督训练的符号执行器在多大程度上能恢复正确的执行序列？
• RQ4 来自训练良好的符号执行器的反馈是否能提升分布式神经执行器的性能？
• RQ5 在弱监督设置下，使用神经模型的中间监督来引导符号执行具有哪些优势？

主要发现

• 该联合方法在Yin等人（2016b）的问答基准测试中实现了最高的指称准确率，优于独立的分布式模型与符号模型。
• 经由分布式执行器输出预训练的符号执行器，能够恢复大部分正确的执行序列，并显著缩短REINFORCE训练时间。
• 当使用符号执行器的监督重新训练分布式执行器时，其字段注意力接近完美，表明可解释性与对齐性得到显著提升。
• 由于采用离散的符号操作，该方法实现了高效的执行，同时通过神经监督保持了高准确率。
• 尽管仅使用指称和中间神经输出的弱监督，符号执行器的性能仍与完全监督基线模型相当。
• 该框架表明，即使缺乏真实执行序列，从分布式执行到符号执行的知识迁移仍可有效实现。