[论文解读] Improving Implicit Semantic Role Labeling by Predicting Semantic Frame Arguments

Quynh Ngoc Thi, Steven Bethard+1 more|arXiv (Cornell University)|Apr 10, 2017

Topic Modeling参考文献 13被引用 9

一句话总结

本文提出了一种预测性循环神经网络语义框架模型（PRNSFM），该模型从无标注文本中学习语义论元序列的概率，利用显式语义角色标注（SRL）系统生成的预测结果，推断隐式语义角色标注（iSRL）的选择偏好。该方法在NomBank iSRL基准测试中实现了最先进性能，F1值比仅依赖显式SRL系统的先前方法高出10%，显著降低了对人工构建语言资源的依赖。

ABSTRACT

Implicit semantic role labeling (iSRL) is the task of predicting the semantic roles of a predicate that do not appear as explicit arguments, but rather regard common sense knowledge or are mentioned earlier in the discourse. We introduce an approach to iSRL based on a predictive recurrent neural semantic frame model (PRNSFM) that uses a large unannotated corpus to learn the probability of a sequence of semantic arguments given a predicate. We leverage the sequence probabilities predicted by the PRNSFM to estimate selectional preferences for predicates and their arguments. On the NomBank iSRL test set, our approach improves state-of-the-art performance on implicit semantic role labeling with less reliance than prior work on manually constructed language resources.

研究动机与目标

• 通过开发一种从无标注语料中学习的方法，解决隐式语义角色标注（iSRL）数据人工标注稀缺的问题。
• 减少iSRL系统对多种人工构建语言资源的依赖。
• 利用循环神经网络语义框架模型的序列概率估计，建模隐式论元的选择偏好。
• 在无需显式iSRL标注用于训练的前提下，提升隐式语义角色标注的最先进性能。

提出的方法

• 在大规模无标注语料（Wikipedia、Reuters、Brown）上训练预测性循环神经网络语义框架模型（PRNSFM），使用MATE显式SRL系统生成的预测结果作为监督信号。
• 利用PRNSFM估计给定谓词的语义论元序列概率，建模语义框架的序列结构。
• 为词语和语义角色学习独立的向量表示，以支持跨谓词泛化，并与预训练嵌入模型集成。
• 通过在PRNSFM的序列概率估计中对位置信息进行边缘化，提取选择偏好，以处理话语中任意位置出现的隐式论元。
• 将学习到的选择偏好应用于测试集中的隐式语义角色预测，仅将显式SRL系统作为子组件使用。

实验结果

研究问题

• RQ1 在无标注文本上训练的神经序列模型能否学习到有意义的语义论元序列概率，从而提升iSRL性能？
• RQ2 在无显式iSRL标注的情况下，能否仅通过序列概率有效推断隐式论元的选择偏好？
• RQ3 与现有iSRL系统相比，基于PRNSFM的方法在F1性能和资源效率方面表现如何？
• RQ4 为词语和语义角色学习独立表示是否能提升iSRL中的泛化能力和性能？

主要发现

• 基于PRNSFM的iSRL系统F1值比唯一仅依赖显式SRL系统的其他系统高出10%，t检验p值为0.058，表明具有统计显著性。
• 模型2（为词语和语义角色使用独立嵌入）优于模型1（将两者合并为单一组合），因其在不同角色分配间具有更好的泛化能力。
• 对于训练数据中频繁出现的谓词（如'sale'、'plan'、'loss'），模型取得较高F1分数（>50%），而对罕见或不规则谓词（如'bid'或'loan'）性能下降。
• PRNSFM优于标准skip-gram语言模型，表明将语义框架视为序列数据建模比标准n-gram或词级建模更有效。
• 该系统在NomBank iSRL测试集上实现了最先进性能，且无需任何人工标注的iSRL数据，仅依赖显式SRL系统和无标注文本。