[论文解读] Syntactic Scaffolds for Semantic Structures

Swabha Swayamdipta, Sam Thomson+4 more|arXiv (Cornell University)|Aug 30, 2018

Topic Modeling参考文献 52被引用 7

一句话总结

本文提出句法脚手架（syntactic scaffolds），一种多任务学习方法，通过在树库中使用跨度级句法标注进行训练，在不增加运行时解析开销的前提下，向语义模型注入句法偏差。该方法在PropBank SRL（+1.1 F1）、FrameNet SRL（+3.6 F1）和共指消解（+0.6 F1）任务上均取得当前最优性能，通过在训练过程中引导上下文表示向句法结构对齐，同时在推理时保持无句法依赖。

ABSTRACT

We introduce the syntactic scaffold, an approach to incorporating syntactic information into semantic tasks. Syntactic scaffolds avoid expensive syntactic processing at runtime, only making use of a treebank during training, through a multitask objective. We improve over strong baselines on PropBank semantics, frame semantics, and coreference resolution, achieving competitive performance on all three tasks.

研究动机与目标

• 为解决在不产生运行时句法解析计算开销的前提下，将句法归纳偏差整合到语义模型中的挑战。
• 探究将句法信息作为训练阶段信号，是否能改善SRL和共指消解等语义任务的泛化能力。
• 开发一种无需句法任务与语义任务之间数据集重叠的方法，以实现更广泛的应用。
• 证明句法脚手架能够超越无句法基线模型，并与基于流水线的句法特征方法表现相当或更优。
• 提供一种轻量级、高效的替代方案，用于在语义任务中实现句法监督，替代联合建模或流水线解析方法。

提出的方法

• 句法脚手架采用多任务学习目标，共享神经模型在训练过程中从树库中预测句法跨度标签（如NP、VP），而无需生成完整句法树。
• 该方法将句法解析视为一系列独立的跨度级分类任务，避免了对完整解析算法或合法树约束的需求。
• 脚手架损失基于OntoNotes 5.0中的短语结构标注构建，应用于与主语义任务（如SRL或共指消解）相同的输入。
• 模型在语义任务与句法脚手架之间共享参数，使语义头在反向传播过程中能受益于句法监督。
• 在推理阶段，仅使用语义模型头——不执行任何句法处理，从而保持高效性。
• 该方法具有灵活性，无需句法与语义训练数据之间的对齐，即使在数据集不重叠的情况下也能使用。

实验结果

研究问题

• RQ1 句法信息是否能在不依赖运行时句法解析的前提下，提升语义模型性能？
• RQ2 使用跨度级句法标签的多任务方法是否在语义任务中优于无句法基线？
• RQ3 句法脚手架是否能在非重叠数据集上泛化，例如在OntoNotes上训练以用于FrameNet SRL？
• RQ4 句法脚手架与在语义模型中使用句法特征的流水线方法相比表现如何？
• RQ5 句法脚手架在不同论元类型和框架元素上的性能提升程度如何？

主要发现

• 句法脚手架在FrameNet SRL任务上相较强无句法基线模型实现了3.6的绝对F1提升，表明在具有挑战性的语义角色标注任务上取得了显著增益。
• 在PropBank SRL任务上，脚手架使性能提升了1.1的绝对F1，即使句法与语义数据集完全重叠，也表现出一致的增益。
• 在共指消解任务中，脚手架在MUC、B3和CEAFφ4得分上平均提升了0.6 F1，优于无句法基线。
• 性能提升在常见句法成分（如NP和PP）上最为显著，特别是以名词短语或介词短语形式实现的框架元素（如Theme和Goal）。
• 该方法在推理阶段无需任何句法解析，即可实现具有竞争力的结果，同时在保持无句法模型效率的同时提升了泛化能力。
• 性能提升与上下文嵌入（如ELMo）的使用相互独立，表明句法脚手架可与其它当前最优技术结合，实现进一步增益。