[论文解读] An MRC Framework for Semantic Role Labeling

Nan Wang, Jiwei Li+6 more|arXiv (Cornell University)|Sep 14, 2021

Topic Modeling参考文献 55被引用 4

一句话总结

本文提出了一种用于语义角色标注（SRL）的机器阅读理解（MRC）框架，通过将谓词消歧和论元标注分别建模为多选题和抽取式MRC任务，统一处理二者，利用框架文件中的语义描述。该方法在CoNLL2005、CoNLL2009和CoNLL2012基准上实现了最先进或具有竞争力的结果，同时整合了角色语义信息，并通过角色预测模块提升了计算效率。

ABSTRACT

Semantic Role Labeling (SRL) aims at recognizing the predicate-argument structure of a sentence and can be decomposed into two subtasks: predicate disambiguation and argument labeling. Prior work deals with these two tasks independently, which ignores the semantic connection between the two tasks. In this paper, we propose to use the machine reading comprehension (MRC) framework to bridge this gap. We formalize predicate disambiguation as multiple-choice machine reading comprehension, where the descriptions of candidate senses of a given predicate are used as options to select the correct sense. The chosen predicate sense is then used to determine the semantic roles for that predicate, and these semantic roles are used to construct the query for another MRC model for argument labeling. In this way, we are able to leverage both the predicate semantics and the semantic role semantics for argument labeling. We also propose to select a subset of all the possible semantic roles for computational efficiency. Experiments show that the proposed framework achieves state-of-the-art or comparable results to previous work. Code is available at \url{https://github.com/ShannonAI/MRC-SRL}.

研究动机与目标

• 解决传统SRL方法中谓词消歧与论元标注之间缺乏语义整合的问题。
• 在统一框架中利用框架文件中的语义信息——特别是谓词语义和论元角色的含义。
• 通过整合标签语义信息，提升模型在低资源和分布外设置下的鲁棒性。
• 通过角色预测模块筛选无关语义角色，降低论元标注的计算开销。

提出的方法

• 将谓词消歧形式化为多选题MRC任务，将候选谓词语义（及其描述）视为答案选项。
• 利用预测的谓词语义确定目标谓词的相关语义角色。
• 通过从语义角色描述（如“运动的施事者”）构建查询，将论元标注转化为抽取式MRC任务。
• 引入角色预测模块，选择最可能的语义角色子集（如前λN个角色）以减少计算量。
• 所有MRC组件均以RoBERTa-Base作为基础模型，并在CoNLL基准上进行微调。
• 通过词形还原的谓词和学习到的角色概率进行过滤，避免编码所有可能的<标签, 句子>组合。

实验结果

研究问题

• RQ1 将谓词消歧和论元标注建模为MRC任务，能否提升两个子任务之间的语义一致性？
• RQ2 在低资源或分布外设置下，显式引入谓词语义和论元角色的语义描述是否能提升性能？
• RQ3 角色预测模块在不牺牲标注准确率的前提下，能否有效降低计算成本？
• RQ4 当训练和测试数据在领域上不一致时，角色语义对论元标注性能有何影响？

主要发现

• 所提出的MRC框架在CoNLL2005、CoNLL2009和CoNLL2012基准上实现了最先进或具有竞争力的结果。
• 在开发集上，将角色语义纳入论元标注使F1分数提升0.6分（88.5 vs. 88.2），在分布外Brown测试集上也提升了0.6分（83.8 vs. 83.2）。
• 当角色预测召回率从0.90提升至0.99时，论元标注F1从87.3提升至88.6，表明错误传播减少。
• 在低资源场景下，带有角色语义的MRC模型优于无语义先验的基线BIO标注模型，尤其在数据比例较低时表现更优。
• 角色预测模块通过过滤无关角色，使计算速度提升4倍至5.1倍，对应CoNLL2005、CoNLL2009和CoNLL2012的λ值分别为5、4.2和5.5。