[论文解读] Syntax-aware Neural Semantic Role Labeling with Supertags

Jungo Kasai, Dan Friedman+3 more|arXiv (Cornell University)|Mar 12, 2019

Natural Language Processing Techniques参考文献 28被引用 4

一句话总结

本文提出了一种语法感知的神经网络语义角色标注（SRL）模型，使用从依存句法分析中提取的丰富句法标签——超标签（supertags），而非完整的句法树。通过训练双向LSTM（BiLSTM）预测超标签，并将这些超标签与词嵌入和词性（POS）嵌入一同输入深层高速公路BiLSTM进行SRL，该模型在CoNLL 2009英语和西班牙语数据集上取得了当前最优性能，优于无语法感知和基于完整句法分析的模型。

ABSTRACT

We introduce a new syntax-aware model for dependency-based semantic role labeling that outperforms syntax-agnostic models for English and Spanish. We use a BiLSTM to tag the text with supertags extracted from dependency parses, and we feed these supertags, along with words and parts of speech, into a deep highway BiLSTM for semantic role labeling. Our model combines the strengths of earlier models that performed SRL on the basis of a full dependency parse with more recent models that use no syntactic information at all. Our local and non-ensemble model achieves state-of-the-art performance on the CoNLL 09 English and Spanish datasets. SRL models benefit from syntactic information, and we show that supertagging is a simple, powerful, and robust way to incorporate syntax into a neural SRL system.

研究动机与目标

• 通过在不依赖完整依存句法分析的前提下引入句法信息，提升语义角色标注（SRL）的性能。
• 探究超标签——具有语言学丰富性的序列级标签——是否可作为神经网络SRL中完整句法分析的高效且稳健的替代方案。
• 评估不同超标签设计对SRL性能的影响，涵盖不同句子长度和谓词类型。
• 证明超标签在无语法感知模型与复杂解析模型之间提供了一个折中方案，提升泛化能力和鲁棒性。
• 探索在低资源或分布外设置下，超标签在完整句法解析可能失效时的实用性。

提出的方法

• 从CoNLL 2009语料库的依存句法分析中提取超标签，使用四种不同的超标签模型：模型0（关系+方向）、模型1（增加对强制依存成分的信息）、模型2（增加对强制依存成分的关系信息），以及一种受树邻接语法（Tree-Adjoining Grammar）启发的新模型TAG。
• 训练一个双向LSTM（BiLSTM）超标签器，从词和词性中预测超标签，并使用实值嵌入表示预测的超标签。
• 将超标签嵌入与词嵌入和词性（POS）嵌入一同输入深层高速公路BiLSTM进行语义角色标注。
• 采用非集成、局部模型架构，以确保效率并避免句法解析错误的传播。
• 在CoNLL 2009英语和西班牙语的分布内与分布外测试集上评估性能，比较不同超标签模型与基线模型的表现。
• 按句子长度和谓词类别分析性能，以评估模型的鲁棒性与语言学敏感性。

实验结果

研究问题

• RQ1 与无语法感知的神经网络模型相比，从依存句法分析中提取的超标签是否能提升SRL性能？
• RQ2 不同设计的超标签（在句法表达能力上存在差异）对英语和西班牙语SRL性能有何影响？
• RQ3 使用超标签是否能为SRL提供比完整依存句法分析更具鲁棒性和泛化能力的替代方案？
• RQ4 在长句或分布外句子中，超标签以何种方式增强SRL性能？
• RQ5 超标签是否能超越更复杂的句法编码方法（如依存路径建模）？

主要发现

• 采用模型1超标签的所提模型在CoNLL 2009英语分布内测试集上取得了92.0的F1分数，达到当前最优性能，优于BiLSTM基线和Path-LSTM模型。
• 模型1超标签在所有谓词类别（V/A0, V/A1, V/A2, V/AM, N/A2, N/AM）中均提升了性能，且在所有类别中均显著优于BiLSTM和BDH基线。
• 该模型在西班牙语分布内测试集上取得了92.9的F1分数，显示出强大的跨语言泛化能力。
• 基于超标签的模型在长句中表现更优，尤其在分布外设置下，表明其对结构复杂性的鲁棒性。
• 模型0（最简单的超标签）在关键角色（V/A0, V/A1, V/AM, N/AM）上的表现优于Path-LSTM模型，表明即使基础超标签也能超越更复杂的句法路径建模。
• 该模型在无需集成且不依赖完整句法解析的情况下实现了当前最优结果，证明了超标签作为轻量级、富含句法信息信号的有效性。