[论文解读] A Sequential Model for Classifying Temporal Relations between Intra-Sentence Events

Prafulla Kumar Choubey, Ruihong Huang|ArXiv.org|Jul 23, 2017

Topic Modeling参考文献 19被引用 9

一句话总结

本文提出了一种基于双向LSTM的序列模型，通过利用事件间依赖路径上的词、词性标注和依存关系序列，对句子内事件的细粒度时序关系进行分类。通过建模上下文短语的组合性句法与语义结构，该方法在TimeBank语料库上取得了53.32%的准确率，相比先前基于特征的方法显著提升了11.35个百分点。

ABSTRACT

We present a sequential model for temporal relation classification between intra-sentence events. The key observation is that the overall syntactic structure and compositional meanings of the multi-word context between events are important for distinguishing among fine-grained temporal relations. Specifically, our approach first extracts a sequence of context words that indicates the temporal relation between two events, which well align with the dependency path between two event mentions. The context word sequence, together with a parts-of-speech tag sequence and a dependency relation sequence that are generated corresponding to the word sequence, are then provided as input to bidirectional recurrent neural network (LSTM) models. The neural nets learn compositional syntactic and semantic representations of contexts surrounding the two events and predict the temporal relation between them. Evaluation of the proposed approach on TimeBank corpus shows that sequential modeling is capable of accurately recognizing temporal relations between events, which outperforms a neural net model using various discrete features as input that imitates previous feature based models.

研究动机与目标

• 提高对同一句子中事件之间细粒度时序关系分类的准确性。
• 解决基于特征的方法在捕捉长或复杂中间上下文中的组合性句法与语义证据方面的局限性。
• 将事件提及之间的完整依存路径建模为序列，以保留结构与语义的组合性。
• 评估序列化建模词、词性标注和依存关系序列是否能超越离散特征工程，在时序关系分类中带来性能提升。
• 证明端到端序列化建模在时序关系分类中优于传统基于特征的方法。

提出的方法

• 使用依存解析提取句子中两个事件提及之间的依存路径。
• 应用启发式规则对依存路径进行增强，以处理标点符号和复杂句法结构。
• 为每条路径生成三条并行序列：词标记、词性标注和依存关系。
• 将每条序列分别输入独立的双向LSTM网络，以学习上下文表示。
• 将三条LSTM分支的最终隐藏状态拼接，并通过带有Softmax激活函数的全连接层进行分类。
• 使用分类交叉熵损失、RMSProp优化器和Dropout正则化进行模型训练。

实验结果

研究问题

• RQ1 将完整依存路径作为序列进行建模，是否能相比局部离散特征提升时序关系分类性能？
• RQ2 词、词性标注和依存关系序列在单独和联合使用时，对预测细粒度时序关系的贡献程度如何？
• RQ3 序列化建模是否能捕捉到基于特征的方法所遗漏的组合性句法与语义证据，尤其是在长或复杂上下文中？
• RQ4 该模型在罕见或难以检测的时序关系（如'begun_by'或'ibefore'）上的表现如何？
• RQ5 该模型是否能比依赖手工特征或直接依存路径的强基线模型具有更好的泛化能力？

主要发现

• 所提出的完整模型在TimeBank语料库上取得了53.32%的准确率，相比强基线模型（Baseline I）显著提升了11.35个百分点。
• 该模型相比Baseline II和Baseline III分别提升了9.42%和8.57%，证实了序列化建模相较于非句法基线的优越性。
• 直接依存路径模型（仅使用最短路径，未应用增强规则）的准确率为49.25%，表明规则增强路径能带来更好的性能。
• 该模型在罕见关系（如'begun_by'、'ibefore'和'ends'）上表现出色，而基线系统完全无法检测到这些关系。
• 依存关系序列与词序列及词性标注序列的结合取得了最高性能（双序列模型准确率为47.75%），表明依存结构具有特别强的信息量。
• 完整模型的宏平均F1得分为0.40，显著优于基线的0.22，尤其在'includes'和'during_in'等低频关系上表现更优。