[论文解读] The Future is not One-dimensional: Complex Event Schema Induction by Graph Modeling for Event Prediction

Manling Li, Sha Li+6 more|arXiv (Cornell University)|Apr 13, 2021

Semantic Web and Ontologies被引用 16

一句话总结

本文提出了一种新颖的框架，用于诱导基于概率图的时序复杂事件模式，以捕捉多事件时序依赖关系和论元关系。通过在自动提取的事件图上使用自回归图生成模型，该方法在未来事件预测任务中表现优异——在 HITS@1 指标上比人类构建的模式高出 23.8%，证明了结构化、多维事件推理相较于线性模型的优越性。

ABSTRACT

Event schemas encode knowledge of stereotypical structures of events and their connections. As events unfold, schemas are crucial to act as a scaffolding. Previous work on event schema induction focuses either on atomic events or linear temporal event sequences, ignoring the interplay between events via arguments and argument relations. We introduce a new concept of Temporal Complex Event Schema: a graph-based schema representation that encompasses events, arguments, temporal connections and argument relations. In addition, we propose a Temporal Event Graph Model that predicts event instances following the temporal complex event schema. To build and evaluate such schemas, we release a new schema learning corpus containing 6,399 documents accompanied with event graphs, and we have manually constructed gold-standard schemas. Intrinsic evaluations based on schema matching and instance graph perplexity, prove the superior quality of our probabilistic graph schema library compared to linear representations. Extrinsic evaluation on schema-guided future event prediction further demonstrates the predictive power of our event graph model, significantly outperforming human schemas and baselines by more than 23.8% on HITS@1.

研究动机与目标

• 解决现有事件模式诱导方法将事件视为线性或原子化处理的局限性，忽略事件间关系和论元依赖关系。
• 开发一项新任务——时序复杂事件模式诱导，能够建模多事件、多论元及时间有序的事件结构。
• 构建一个概率性、图结构的模式库，支持内在模式评估与外在事件预测。
• 建立一个稳健的数据驱动模式诱导系统，能够容忍信息抽取系统产生的噪声事件抽取结果。
• 发布一个包含 6,399 篇文档的新大规模人工标注语料库，提供标准事件图与模式，供研究使用。

提出的方法

• 提出时序事件图模型（TEGM），一种自回归图生成模型，按时间顺序预测事件类型与论元。
• 使用节点表示事件与实体，边表示时序顺序关系与论元关系（如 part_whole、agent 等）。
• 采用复制机制传播指代一致的论元（例如，逮捕事件中的被拘留者，即先前攻击事件中的攻击者）。
• 引入边感知的消息传递机制，在图生成过程中编码时序与关系依赖。
• 在大规模语料库中自动提取的事件图上端到端训练模型，使用交叉熵损失进行序列生成。
• 将模型同时用于无条件模式库生成与条件图补全（前向/后向预测），以支持事件预测。

实验结果

研究问题

• RQ1 与线性或原子化模式模型相比，基于图的表示是否能更好地捕捉现实世界事件的复杂多维结构？
• RQ2 学习得到的概率事件图模型在预测未来事件方面，能在多大程度上超越人工构建的模式？
• RQ3 当在噪声较大的自动抽取事件图上进行训练时，该模式诱导方法的鲁棒性如何？
• RQ4 所诱导的图模式是否能支持对多种未来事件类型的准确、多假设预测，并附带相应概率？
• RQ5 在内在与外在评估设置下，哪些指标最能有效评估所诱导的复杂事件模式的质量？

主要发现

• 所提出的时序事件图模型在预测未来事件方面显著优于人工构建的模式，在 HITS@1 指标上提升 23.8%。
• 内在评估显示，所诱导的模式库在模式匹配与实例图困惑度方面优于线性表示。
• 即使在噪声较大的自动抽取事件图上进行训练，模型仍保持强大的预测性能，证明其对抽取错误具有鲁棒性。
• 模型生成的事件图具有一致性与语义合理性，正确体现时序顺序与论元关系，包括指代一致与整体-部分连接。
• 发布的新 6,399 篇文档语料库包含标准事件图与模式，支持可复现的评估与未来在复杂事件模式诱导领域的研究。
• 该框架成功支持无条件模式库生成与条件事件预测（前向/后向），实现多假设预测。