[论文解读] Fast and Accurate End-to-End Span-based Semantic Role Labeling as Word-based Graph Parsing

Shilin Zhou, Qingrong Xia+4 more|arXiv (Cornell University)|Dec 6, 2021

Topic Modeling被引用 5

一句话总结

本文提出了一种新颖的基于词的图解析框架，用于端到端的基于跨度的语义角色标注（SRL），通过四种图模式（BES、BE、BIES、BII）表示论元跨度，其中BES表现最优。该方法在不使用BERT时实现每秒669个句子的处理速度，使用BERT时为每秒252个句子，准确率和速度均达到当前最优水平，同时通过受约束的Viterbi后处理步骤确保结构有效性。

ABSTRACT

This paper proposes to cast end-to-end span-based SRL as a word-based graph parsing task. The major challenge is how to represent spans at the word level. Borrowing ideas from research on Chinese word segmentation and named entity recognition, we propose and compare four different schemata of graph representation, i.e., BES, BE, BIES, and BII, among which we find that the BES schema performs the best. We further gain interesting insights through detailed analysis. Moreover, we propose a simple constrained Viterbi procedure to ensure the legality of the output graph according to the constraints of the SRL structure. We conduct experiments on two widely used benchmark datasets, i.e., CoNLL05 and CoNLL12. Results show that our word-based graph parsing approach achieves consistently better performance than previous results, under all settings of end-to-end and predicate-given, without and with pre-trained language models (PLMs). More importantly, our model can parse 669/252 sentences per second, without and with PLMs respectively.

研究动机与目标

• 解决现有端到端基于跨度的SRL方法依赖序列或多轮解码所导致的效率低下与复杂性问题。
• 将基于跨度的SRL重新表述为基于词的图解析任务，实现对谓词和论元的统一高效预测。
• 研究有效的图表示模式，用于在词级别编码跨度边界，受中文分词（CWS）和命名实体识别（NER）的启发。
• 通过受约束的Viterbi后处理程序确保解析图的结构有效性，例如非重叠的论元跨度和有效的谓词-论元关系。
• 在端到端和谓词给定设置下，同时实现高准确率与高推理速度。

提出的方法

• 该方法将基于跨度的SRL转化为基于词的图解析问题，其中节点代表词语，边代表带有语义角色的谓词-论元连接。
• 提出并比较了四种图模式（BES、BE、BIES、BII），用于在词级别编码论元跨度，其中BES表现最佳。
• 模型采用源自Wang et al. (2019) 的二阶图解析架构，端到端训练，同时预测谓词和论元。
• 应用受约束的Viterbi解码程序，通过强制执行SRL结构约束（如非重叠论元跨度和有效谓词-论元关系）来纠正非法图结构。
• 通过在训练期间注入谓词嵌入，使用共享模型支持端到端和谓词给定两种设置。
• 评估方法包括使用和不使用预训练语言模型（PLMs），如BERT和ELMo，以检验模型的鲁棒性与可扩展性。

实验结果

研究问题

• RQ1 在基于词的图解析框架中，哪种图模式（BES、BE、BIES、BII）最能有效表示基于跨度的SRL结构？
• RQ2 基于词的图解析能否在端到端SRL中实现比现有BIO基或基于跨度的图解析方法更高的准确率与效率？
• RQ3 包含边界信息和跨度长度信息（如区分单字词与多字词论元）对模型性能有何影响？
• RQ4 受约束的Viterbi解码在不损失准确率的前提下，能在多大程度上提升解析图的结构有效性？
• RQ5 与先前的SRL解析器相比，该方法在推理速度上表现如何，特别是在引入PLM的设置下？

主要发现

• BES模式在所有设置下均持续优于其他图模式，在CoNLL05和CoNLL12数据集上均取得最高的F1分数。
• 该模型在端到端和谓词给定设置下均达到当前最优性能，使用ELMo时在WSJ上提升+0.25 F1，Brown上提升+0.77，CoNLL12-test上提升+0.44。
• 使用BERT后，模型性能进一步提升，表明其与强大预训练语言模型具有良好的兼容性。
• 该解析器在不使用PLMs时每秒可处理669个句子，在使用PLMs时为每秒252个句子，显著快于先前方法。
• 受约束的Viterbi后处理步骤能有效消除非法图结构，同时保持高准确率，确保输出的SRL结果结构合法。
• 详细分析表明，编码论元边界信息并区分单字词与多字词论元，能显著提升模型性能。