[论文解读] Simpler Context-Dependent Logical Forms via Model Projections

Reginald Long, Panupong Pasupat+1 more|arXiv (Cornell University)|Jun 16, 2016

Natural Language Processing Techniques参考文献 28被引用 21

一句话总结

本文提出一种分层模型投影方法，通过将一个完整且表达能力强的模型（模型 A）逐步投影到更简单的模型（模型 B 和 C）上，从而简化上下文相关的逻辑形式学习。这些简化模型在逻辑形式的等价类上运行。关键贡献在于，模型 C——直接将话语映射到扁平的、指称级别的逻辑形式——在计算资源受限的情况下表现出色，显著提升了语义解析任务在弱监督设置下的效率与准确率，同时支持对完整模型的有效自举训练。

ABSTRACT

We consider the task of learning a context-dependent mapping from utterances to denotations. With only denotations at training time, we must search over a combinatorially large space of logical forms, which is even larger with context-dependent utterances. To cope with this challenge, we perform successive projections of the full model onto simpler models that operate over equivalence classes of logical forms. Though less expressive, we find that these simpler models are much faster and can be surprisingly effective. Moreover, they can be used to bootstrap the full model. Finally, we collected three new context-dependent semantic parsing datasets, and develop a new left-to-right parser.

研究动机与目标

• 解决在仅提供指称结果的训练阶段中，上下文相关语义解析时逻辑形式搜索的组合爆炸问题。
• 探究更简单、表达能力更低的模型是否可在低资源、上下文相关的语义解析中作为训练更复杂模型的有效代理。
• 开发一种新型的从左到右解析框架，避免显式的话语片段与逻辑形式组件对齐，同时保持性能。
• 评估在受限束搜索条件下，模型表达能力与计算效率之间的权衡。
• 收集并发布三个新的上下文相关语义解析数据集（Alchemy、Scene、Tangrams），以支持未来研究。

提出的方法

• 将完整模型（模型 A）投影到更简单的模型（模型 B）上，该模型将具有相同逻辑形式的推导合并，移除词到谓词的对齐。
• 进一步将模型 B 投影到模型 C 上，该模型将具有相同顶层指称的逻辑形式合并，从而生成扁平的、指称级别的逻辑形式（例如，mix(beaker2)）。
• 首先使用固定束大小训练模型 C，然后利用其参数初始化并微调模型 A，实现自举训练。
• 设计一种从左到右的解析器，无需显式对齐话语片段与逻辑形式组件即可构建逻辑形式。
• 利用模型投影构建计算层次：模型 A（表达能力最强，速度最慢），模型 B（中间），模型 C（表达能力最弱，速度最快）。
• 在所有模型间使用相同的特征空间，以确保自举过程中的一致性，利用投影模型与完整模型之间的共享表征。

实验结果

研究问题

• RQ1 在计算资源受限的情况下，更简单、表达能力更低的模型（模型 C）是否能超越更复杂的模型？
• RQ2 使用来自投影模型（模型 C）的参数初始化完整模型（模型 A）是否相比从零开始训练能显著提升性能？
• RQ3 在上下文相关的语义解析中，更简单模型（如模型 C）的错误模式与更表达能力强的模型（如模型 A）有何不同？
• RQ4 尽管表达能力有限，模型 C 在多大程度上能捕捉有意义的语言泛化（如词到谓词的映射）？
• RQ5 分层投影框架是否能有效平衡语义解析中模型表达能力与计算效率之间的权衡？

主要发现

• 尽管表达能力有限，模型 C 在束搜索受限条件下仍达到最先进性能，在所有三个数据集上均优于模型 A 和模型 B。
• 在束大小无限时，模型 A 的性能优于模型 C，证实模型 C 的成功源于计算约束，而非内在表征优势。
• 使用模型 C 的参数自举初始化模型 A 在有限束设置下带来显著性能提升，证明了分层初始化的有效性。
• 错误分析显示，模型 C 的主要失败原因是表达能力不足（如将“back”误认为位置），而模型 B 的失败主要源于束搜索限制。
• 所提出的从左到右解析器成功在无需显式对齐的情况下构建逻辑形式，实现了高效推理，同时保持了具有竞争力的准确率。
• 新发布的三个数据集——Alchemy、Scene 和 Tangrams——捕捉了多种上下文相关现象，如省略、对实体的回指以及对动作的回指，为研究提供了新的基准。