[论文解读] Building a Neural Semantic Parser from a Domain Ontology

Jianpeng Cheng, Siva Reddy+1 more|arXiv (Cornell University)|Dec 25, 2018

Natural Language Processing Techniques参考文献 52被引用 11

一句话总结

本文提出了一种框架，通过从语义表示派生的自然语言模板生成训练数据，从领域本体构建神经语义解析器。该框架利用众包对这些模板进行改写，使神经解析器能够学习组合规则推导，在餐厅和酒店领域复杂、多轮任务上取得优异性能。

ABSTRACT

Semantic parsing is the task of converting natural language utterances into machine interpretable meaning representations which can be executed against a real-world environment such as a database. Scaling semantic parsing to arbitrary domains faces two interrelated challenges: obtaining broad coverage training data effectively and cheaply; and developing a model that generalizes to compositional utterances and complex intentions. We address these challenges with a framework which allows to elicit training data from a domain ontology and bootstrap a neural parser which recursively builds derivations of logical forms. In our framework meaning representations are described by sequences of natural language templates, where each template corresponds to a decomposed fragment of the underlying meaning representation. Although artificial, templates can be understood and paraphrased by humans to create natural utterances, resulting in parallel triples of utterances, meaning representations, and their decompositions. These allow us to train a neural semantic parser which learns to compose rules in deriving meaning representations. We crowdsource training data on six domains, covering both single-turn utterances which exhibit rich compositionality, and sequential utterances where a complex task is procedurally performed in steps. We then develop neural semantic parsers which perform such compositional tasks. In general, our approach allows to deploy neural semantic parsers quickly and cheaply from a given domain ontology.

研究动机与目标

• 解决在新领域或演化领域中获取低成本、高覆盖度的神经语义解析训练数据的挑战。
• 使神经语义解析器能够泛化至组合性语句和复杂、多步骤的人类意图。
• 开发一种方法，利用领域本体系统化生成包含并行语句、语义表示及其分解模板的训练数据。
• 设计一种显式建模逻辑规则组合的神经解析器，通过推导树结构提升可解释性与泛化能力。
• 在餐厅和酒店等多样化领域中，对单轮与序列性、多轮语句进行评估。

提出的方法

• 该框架从领域本体定义的形式化语义表示空间出发，利用组合规则生成逻辑形式作为推导结果。
• 每个语义表示被分解为一系列自然语言模板，每个模板对应推导过程中的一条规则应用。
• 众包工作者被要求将这些人工模板改写为流畅自然的语句，从而生成并行三元组：(语句, 语义表示, 分解结果)。
• 训练神经语义解析器，通过序列到树生成设置，学习按顺序组合规则，以预测语义表示的推导树。
• 解析器采用序列到推导（S2D）架构，显式建模组合结构，相较于端到端序列到序列方法，提升了泛化能力。
• 模型在单轮与多轮对话上进行评估，涵盖探索、合并（并集/交集）及无关任务等结构，同时通过S2D C探索上下文建模。

实验结果

研究问题

• RQ1 能否利用领域本体系统化生成高质量、可改写的神经语义解析训练数据？
• RQ2 在基于模板的数据上训练的神经解析器，能否有效学习组合复杂语义表示？
• RQ3 显式建模推导树的方法与端到端序列到序列解析相比，在处理组合性语句时表现如何？
• RQ4 该解析器在涉及代词指代、话题转换与复杂逻辑结构的多轮对话中的表现如何？
• RQ5 在解码过程中显式建模上下文是否能提升对代词指代语句的解析性能？

主要发现

• S2D模型在所有领域中均优于S2S与S2T基线模型，在餐厅领域整体语义匹配F1达到73.6%，酒店领域为73.7%。
• 解析器在探索与无关结构上表现最佳，餐厅领域F1分别为78.6%与71.7%，表明其对序列性、非共现任务具有强处理能力。
• 在涉及并集或交集的合并结构上表现显著较低，餐厅领域F1仅为34.5%，表明检测与组合复杂逻辑组合存在困难。
• 上下文依赖的解码（S2D C）仅带来微小改进，表明语句中的表层线索通常已足够用于代词指代消解。
• 该框架可实现从领域本体快速部署神经语义解析器，除模板改写外，人工干预极少。
• 该方法在多轮语义解析任务中达到最先进水平，尤其通过结构化推导学习，有效处理复杂、多步骤的人类意图。