[论文解读] Efficient Document-level Event Extraction via Pseudo-Trigger-aware Pruned Complete Graph

Tong Zhu, Xiaoye Qu+5 more|arXiv (Cornell University)|Dec 11, 2021

Topic Modeling被引用 9

一句话总结

该论文提出 PTPCG，一种非自回归文档级事件抽取模型，通过伪触发器构建剪枝完整图以实现高效的论元组合。其参数量仅为 19.8%，训练时间仅需 3.8% 的 GPU 小时，相比最先进自回归模型，推理速度最高提升 8.5 倍，同时保持了具有竞争力的性能。

ABSTRACT

Most previous studies of document-level event extraction mainly focus on building argument chains in an autoregressive way, which achieves a certain success but is inefficient in both training and inference. In contrast to the previous studies, we propose a fast and lightweight model named as PTPCG. In our model, we design a novel strategy for event argument combination together with a non-autoregressive decoding algorithm via pruned complete graphs, which are constructed under the guidance of the automatically selected pseudo triggers. Compared to the previous systems, our system achieves competitive results with 19.8\\% of parameters and much lower resource consumption, taking only 3.8\\% GPU hours for training and up to 8.5 times faster for inference. Besides, our model shows superior compatibility for the datasets with (or without) triggers and the pseudo triggers can be the supplements for annotated triggers to make further improvements. Codes are available at https://github.com/Spico197/DocEE .

研究动机与目标

• 为解决文档级事件抽取（DEE）中自回归解码效率低下的问题，该问题需要高计算资源和较长的训练/推理时间。
• 开发一种通用的论元组合策略，使其在触发器感知和无触发器 DEE 场景中均能有效工作。
• 设计一种轻量化、非自回归模型，在大幅减少参数量和资源消耗的同时保持高性能。
• 探索使用自动选择的伪触发器作为标注触发器的替代或补充，以提升在不同数据集间的鲁棒性和兼容性。

提出的方法

• 模型构建一个剪枝完整图，其中关键论元被识别为伪触发器并双向连接，而其他论元则从这些伪触发器单向连接。
• 通过一种新颖的重要程度评分指标自动选择伪触发器，该指标评估其对论元组合准确率的贡献。
• 在剪枝完整图上应用非自回归解码策略，实现端到端训练和推理，无需自回归地生成论元组合。
• 模型使用共享的 BiLSTM 编码器进行事件类型和实体抽取，随后通过成对相似性计算构建剪枝图的邻接矩阵。
• 邻接矩阵预测通过交叉熵损失进行优化，最终通过将预测的事件类型与解码的论元组合配对生成事件记录。
• 该架构具有灵活性：当每个事件仅使用一个伪触发器时，模型退化为以触发器为中心的树结构，从而与句子级 EE 范式兼容。

实验结果

研究问题

• RQ1 基于剪枝完整图的非自回归解码策略是否能在显著降低训练和推理成本的同时，实现文档级事件抽取的有竞争力性能？
• RQ2 在无触发器或触发器质量较低的 DEE 数据集中，自动选择的伪触发器在替代或增强标注触发器方面的有效性如何？
• RQ3 在论元组合准确率和邻接矩阵预测方面，伪触发器数量与模型性能之间的权衡关系如何？
• RQ4 所提方法是否无需架构修改即可在触发器感知和无触发器 DEE 设置中实现泛化？
• RQ5 重要程度评分指标在指导有效伪触发器选择并提升整体论元组合解码性能方面，其作用有多大？

主要发现

• PTPCG 模型在文档级事件抽取基准上实现了具有竞争力的 F1 分数，在 ChFinAnn 数据集上微平均 F1 达 79.4，与最先进自回归模型相当。
• 模型仅使用了之前 SOTA 模型所需参数量的 19.8% 和 GPU 训练时间的 3.8%，训练成本降低 96.2%。
• 与自回归模型相比，推理速度最高提升 8.5 倍，使其在实际部署中极具效率。
• 使用更多伪触发器的模型在解码错误上表现出更高的上限，但邻接矩阵预测准确率下降，表明覆盖范围与可靠性之间存在权衡。
• 重要程度评分指标能有效识别高质量伪触发器，采用该指标的模型在性能上优于使用固定或随机触发器选择的模型。
• 即使在标注有触发器的设置中，伪触发器也能提升性能，优于完全依赖标注触发器的模型。