[论文解读] CFGs-2-NLU: Sequence-to-Sequence Learning for Mapping Utterances to Semantics and Pragmatics

Adam Summerville, James Ryan+2 more|arXiv (Cornell University)|Jul 22, 2016

Topic Modeling参考文献 16被引用 4

一句话总结

本文提出了一种序列到序列学习方法，使用带有语义和语用信息标注的上下文无关语法（CFG）来训练LSTM RNN，将游戏中的玩家话语映射到语法痕迹。该系统在将表面话语翻译为痕迹方面表现出高精度，从而实现了对话管理中意义和语用语境的稳健推断，适用于互动式叙事游戏。

ABSTRACT

In this paper, we present a novel approach to natural language understanding that utilizes context-free grammars (CFGs) in conjunction with sequence-to-sequence (seq2seq) deep learning. Specifically, we take a CFG authored to generate dialogue for our target application for NLU, a videogame, and train a long short-term memory (LSTM) recurrent neural network (RNN) to map the surface utterances that it produces to traces of the grammatical expansions that yielded them. Critically, this CFG was authored using a tool we have developed that supports arbitrary annotation of the nonterminal symbols in the grammar. Because we already annotated the symbols in this grammar for the semantic and pragmatic considerations that our game's dialogue manager operates over, we can use the grammatical trace associated with any surface utterance to infer such information. During gameplay, we translate player utterances into grammatical traces (using our RNN), collect the mark-up attributed to the symbols included in that trace, and pass this information to the dialogue manager, which updates the conversation state accordingly. From an offline evaluation task, we demonstrate that our trained RNN translates surface utterances to grammatical traces with great accuracy. To our knowledge, this is the first usage of seq2seq learning for conversational agents (our game's characters) who explicitly reason over semantic and pragmatic considerations.

研究动机与目标

• 减少在开放域互动对话中构建基于规则的NLU系统时作者的工作负担。
• 为自然语言理解创建一种可扩展、不易出错的替代方案，以替代手工编写的模式匹配规则。
• 使新手作者能够通过图形化语法编辑工具（Expressionist）指定语义和语用标注。
• 利用序列到序列学习从语法痕迹中推断复杂且分层的语言模式。
• 使用相同的标注语法同时支持自然语言生成和理解。

提出的方法

• 使用Expressionist工具编写上下文无关语法（CFG），并为非终结符标注语义和语用内容。
• 将终端派生结果（表面话语）与其对应的语法展开痕迹配对，形成训练数据集。
• 训练一个基于LSTM的序列到序列模型，将表面话语映射到其语法痕迹。
• 推理过程中，训练好的RNN将玩家话语翻译为语法痕迹，随后用于提取语义和语用标注。
• 该系统利用痕迹结构，将标注从非终结符传播到最终话语解释。
• 未来扩展包括整合对话历史，并使用束搜索或指针网络以更好地处理命名实体。

实验结果

研究问题

• RQ1 序列到序列模型能否准确地将自然语言话语映射到由标注CFG推导出的语法痕迹？
• RQ2 与传统的基于规则的NLU系统相比，使用语法标注的序列到序列模型是否能显著降低作者的工作负担？
• RQ3 该方法是否能在开放域互动对话系统（如游戏中的系统）中实现稳健的语义和语用推断？
• RQ4 该模型在对话语境中如何处理OOV（未登录词）或模糊话语？
• RQ5 同一语法在多大程度上可以同时用于自然语言生成和理解？

主要发现

• 训练好的RNN在将表面话语翻译为语法痕迹方面表现出高精度，从而实现了语义和语用内容的可靠推断。
• 该方法显著减少了对手动编写数千条离散规则的需求，如通过极少的作者工作量即可生成数万亿种派生结果所示。
• 同一语法可用于自然语言生成和理解，提高了系统一致性并减少了代码重复。
• 通过提供话语派生和标注实时反馈的图形化界面，该方法更易于新手作者使用。
• 该系统通过学习分层模式而非依赖刚性模式匹配，表现出对输入话语变化的鲁棒性。
• 作者指出，未来工作将通过整合对话历史和先进的解码策略，改进对命名实体和语境模糊性的处理。