[论文解读] Joint Event and Temporal Relation Extraction with Shared Representations and Structured Prediction
该论文提出了一种基于共享上下文表示和整数线性规划（ILP）结构化预测的端到端事件与时间关系联合神经模型。通过联合训练事件和关系预测并施加结构约束（一致性与传递性），该方法减少了误差传播，在TB-Dense上将F1分数提升了10%，在MATRES上提升了6.8%，优于先前的最先进系统。
We propose a joint event and temporal relation extraction model with shared representation learning and structured prediction. The proposed method has two advantages over existing work. First, it improves event representation by allowing the event and relation modules to share the same contextualized embeddings and neural representation learner. Second, it avoids error propagation in the conventional pipeline systems by leveraging structured inference and learning methods to assign both the event labels and the temporal relation labels jointly. Experiments show that the proposed method can improve both event extraction and temporal relation extraction over state-of-the-art systems, with the end-to-end F1 improved by 10% and 6.8% on two benchmark datasets respectively.
研究动机与目标
- 解决流水线系统中分别执行事件抽取和时间关系分类时产生的误差传播问题。
- 通过在事件和关系模块之间共享上下文嵌入和神经特征学习器，改善事件表示。
- 通过带有全局约束的结构化推理，实现在端到端设置下对事件和时间关系的联合预测。
- 验证联合学习结合结构约束是否能提升事件和关系抽取的性能。
- 分析失败模式，识别在检测VAGUE关系和低置信度事件方面的局限性。
提出的方法
- 使用基于BERT的上下文嵌入作为事件和关系模块的共享输入表示。
- 采用共享神经表示学习器，从相同输入中为两项任务提取深层特征。
- 通过整数线性规划（ILP）进行结构化预测，以强制实施全局约束：事件-关系一致性与时间传递性。
- 使用结构化支持向量机（SSVM）实现端到端的联合训练，确保全局标签一致性。
- 强制要求非事件对或事件-非事件对之间的关系必须为NONE，且不允许存在时间环路。
- 使用置信度阈值过滤低分事件预测，并通过联合推理纠正误分类的事件。
实验结果
研究问题
- RQ1事件与时间关系抽取的联合学习是否能减少流水线系统中的误差传播？
- RQ2在事件和关系模块之间共享表示是否能提升两项任务的性能？
- RQ3通过全局约束（一致性与传递性）进行结构化预测是否能提高端到端抽取的准确性？
- RQ4不同结构约束（如一致性与传递性）对性能提升的贡献如何？
- RQ5在联合事件与关系预测中，主要的失败模式是什么，尤其是针对VAGUE关系和低置信度事件？
主要发现
- 所提出的联合模型在TB-Dense数据集上相比CAEVO基线，端到端F1分数提升了10%。
- 在MATRES数据集上，该模型相比CogCompTime基线，端到端F1分数提升了6.8%。
- 事件-关系一致性约束贡献显著，在TB-Dense上使F1提升0.9%，在MATRES上提升1.0%。
- 传递性约束带来的改进微乎其微，可能是因为BERT的上下文建模能力以及存在NONE关系。
- 类型1错误（假非事件）和类型2错误（在非事件上产生假阳性关系）是最常见的失败模式，表明事件检测置信度存在局限性。
- VAGUE关系是主要挑战，常与其他时间关系混淆，尤其是在端到端设置中与NONE对结合时。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。