[论文解读] A Full End-to-End Semantic Role Labeler, Syntax-agnostic Over Syntax-aware?

Jiaxun Cai, Shexia He+2 more|arXiv (Cornell University)|Aug 11, 2018

Natural Language Processing Techniques参考文献 36被引用 11

一句话总结

该论文提出了首个完整的端到端、语法无关的神经模型，用于基于依存句法的语义角色标注，该模型在统一框架中联合执行谓词消歧和论元标注。通过使用带有非线性变换的BiLSTM编码器和双仿射评分器，该模型在CoNLL-2008上取得了85.0%的F1分数，在CoNLL-2009英语数据集上取得89.6%的F1分数，在CoNLL-2009中文数据集上取得84.4%的F1分数，超越了所有已知的依赖于句法解析特征的系统，且无需依赖句法解析特征。

ABSTRACT

Semantic role labeling (SRL) is to recognize the predicate-argument structure of a sentence, including subtasks of predicate disambiguation and argument labeling. Previous studies usually formulate the entire SRL problem into two or more subtasks. For the first time, this paper introduces an end-to-end neural model which unifiedly tackles the predicate disambiguation and the argument labeling in one shot. Using a biaffine scorer, our model directly predicts all semantic role labels for all given word pairs in the sentence without relying on any syntactic parse information. Specifically, we augment the BiLSTM encoder with a non-linear transformation to further distinguish the predicate and the argument in a given sentence, and model the semantic role labeling process as a word pair classification task by employing the biaffine attentional mechanism. Though the proposed model is syntax-agnostic with local decoder, it outperforms the state-of-the-art syntax-aware SRL systems on the CoNLL-2008, 2009 benchmarks for both English and Chinese. To our best knowledge, we report the first syntax-agnostic SRL model that surpasses all known syntax-aware models.

研究动机与目标

• 开发一种完整的端到端神经模型，将基于依存句法的谓词消歧与论元标注统一于一个框架之中。
• 消除对句法解析特征的依赖，挑战长期以来认为句法对高性能SRL必不可少的信念。
• 在不使用任何句法信息的前提下，实现在英语和中文CoNLL基准测试中的最先进性能。
• 探究更简单的、语法无关的架构是否能在SRL任务中超越复杂的、依赖句法的模型。

提出的方法

• 使用带有非线性变换的深度BiLSTM编码器，将谓词和论元映射到不同的向量空间。
• 采用双仿射注意力评分器，直接预测句子中所有词对的语义角色。
• 将SRL建模为词对分类任务，引入一个虚拟根节点$<$VR$>$和一个'None'标签表示非关系。
• 在一次统一的前向传播中联合预测谓词义项和论元角色，避免流水线子任务。
• 采用包含偏置项的双仿射机制，以处理标签分布不均的问题，提升泛化能力。
• 完全不使用句法解析特征；模型在原始文本上端到端训练，无任何外部句法输入。

实验结果

研究问题

• RQ1 一个语法无关的端到端模型是否能在不依赖句法解析的前提下，实现基于依存句法SRL的最先进性能？
• RQ2 将谓词消歧与论元标注统一到单一联合预测框架中，是否能优于流水线式方法？
• RQ3 性能提升是源于架构创新，而非更优的词表示或句法特征？
• RQ4 当在相同条件下评估时，该模型与句法感知系统相比表现如何？

主要发现

• 所提出的语法无关模型在CoNLL-2008英语数据集上达到85.0%的F1分数，超越了所有先前报告的句法感知模型。
• 在CoNLL-2009英语数据集上，该模型达到89.6%的F1分数，为语法无关与语法感知系统均设定了新的最先进性能记录。
• 在中文数据集中，该模型在CoNLL-2009上取得84.4%的F1分数，再次超越所有已知的句法感知模型。
• 当与句法感知的剪枝策略结合时，性能提升微乎其微，表明该模型对句法输入不敏感，显示出对句法噪声的鲁棒性。
• 性能提升主要源于架构设计，特别是双仿射评分器和非线性编码器，而非更优的词表示。
• 本工作首次实现了端到端的SRL系统，通过单一统一框架联合处理谓词消歧与论元标注，且无需流水线子任务。